Пределы автоматизации и внедрения роботов

[Polnoch Ксю]

Это что?

https://ru.wikipedia.org/wiki/%D0%9D%D0%B0%D0%B1%D0%BE%D1%80_%D0%B4%D0%B0%D0%BD%D0%BD%D1%8B%D1%85

Ему скармливают огромную заранее подготовленную кучу данных?

Да

Свободный поиск запрещен?

Конечно, в процессе обучения его нет. Чтобы контролировать качество.

Точнее, можно RL в теории сделать именно в интернете. Но обычно получается плохо: https://tinyurl.com/4y476e4n

[AlexDark]

Существуют

Пример, плиз.
Для начала стоило бы уточнить с терминологией. я под "природным" подразумеваю нечто, появившееся в результате эволюции или неких естественных процессов. То, что было создано человеком - это артефакты.
Понятно, что артефакты построены на тех же самых физических принципах, но конструктивно могут радикально отличаться.
Про "реактор" в Окло я читал еще когда мне лет 7 было, но "реактор" этот демонстрирует принцип осуществимости реакции, но никакой полезной работы не выполняет и конструктивно от артефактных реакторов отличается (не имеет регулировок, например).
Термоядерные реакции тоже в природе в любой звезде, а человечество максимум осили только бомбу, а "до работающего токамака всегда остается 40 лет".
То, что человечество создало артефакт, который повторяет некоторые возможности мозга - да, создало. Но тут первичен мозг, т.е. это современный комп является неким подобием мозга, созданный на основе доступных технологических решений. до этого более примитивной версией был калькулятор, а до него - арифмометр.

По поводу нейросетей - пока я вижу только продвинутого чат-бота, с которым можно поговорить как с человеком. Да, они могут решать поставленные перед ними задачи (не все и не всегда), но могут ли они ставить новые задачи и решать их?  Или только говорить об известном?

[BlackMokona]

но могут ли они ставить новые задачи и решать их?  Или только говорить об известном?

Да может и делает это слишком эффективно. Отчего безумное море проблем. Если изобретете способ, чтобы он говорил только об известном без фантазий, за вашей технологией придут инвесторы со всего мира, потрясая миллиардами баксов. Станете сказочно богатым и знаменитым

[AlexDark]

Фантазии - это не задачи. Любой сумасшедший или человек под галлюциногенами их генерирует в огромном количестве. А где обещанное познание мира, вселенной и вообще? Электронный Кастанеда не сильно нужен, был уже вполне себе биологический. Похоже, у современного ИИ даже "42" не добиться.

[BlackMokona]

Фантазии - это не задачи. Любой сумасшедший или человек под галлюциногенами их генерирует в огромном количестве. А где обещанное познание мира, вселенной и вообще? Электронный Кастанеда не сильно нужен, был уже вполне себе биологический. Похоже, у современного ИИ даже "42" не добиться.

Активно занимаются и регулярно тут новости публикую по этой теме. Например с помощью ИИ сейчас революция за революцией в биотехнологиях. Есть неслабая революция в прогнозах погоды и тд Ряд улучшений математики и прочего. А если вам нужен мыслитель философ в башне из слоновой кости. То только за ваш счёт, в мире не нашлось желающих платить за такое. Сервера и электричество денег стоят 

[AlexDark]

Прогноз погоды - это решение поставленной специальной задачи. Да, там прогресс будет, как был прогресс, например при переходе от землекопов к экскаватору или от лошадей к автомобилю. Но где в этом всем "интеллект"? Если вести речь о создании специализированного эффективного софта - ну да, он создается. Даже в астрофото все эти нейросетевые плагины  типа Хтерминаторов.
Да, технологии меняют мир, но ни с какими другими технологиями не было разговоров об автомобильной сингулярности, или экскаваторной или еще какой. В этих железках нет ничего "разумного", как нет его в калькуляторе или автомобиле.

[BlackMokona]

Прогноз погоды - это решение поставленной специальной задачи. Да, там прогресс будет, как был прогресс, например при переходе от землекопов к экскаватору или от лошадей к автомобилю. Но где в этом всем "интеллект"? Если вести речь о создании специализированного эффективного софта - ну да, он создается. Даже в астрофото все эти нейросетевые плагины  типа Хтерминаторов.
Да, технологии меняют мир, но ни с какими другими технологиями не было разговоров об автомобильной сингулярности, или экскаваторной или еще какой. В этих железках нет ничего "разумного", как нет его в калькуляторе или автомобиле.

Если говорить вашим языком, то Сингулярность это просто решение специальной задачи. Создании более совершенного ИИ, силами самого ИИ. Решение этой узкой задачи, приведёт к созданию сверх интеллекта, который сможет решить любые желаемые для него задачи за максимально короткое время. Насколько уж законы физики позволят. А это означает, что контроль над цивилизацией со стороны людей будет полностью утрачен

[AlexDark]

решение специальной задачи. Создании более совершенного ИИ, силами самого ИИ.

Но это опять же будет специальная задача - созданный ИИ будет пригоден только для создания других ИИ и все. Почему функционал программы должен внезапно расшириться до всеобщего? Это уже Стивен Кинг с его восстанием строительной техники какой-то получается. Почему узкозаточенный инструмент внезапно и по каким-то мне непонятным причинам должен самостоятельно расширить свой функционал до глобального?

[BlackMokona]

Но это опять же будет специальная задача - созданный ИИ будет пригоден только для создания других ИИ и все. Почему функционал программы должен внезапно расшириться до всеобщего? Это уже Стивен Кинг с его восстанием строительной техники какой-то получается. Почему узкозаточенный инструмент внезапно и по каким-то мне непонятным причинам должен самостоятельно расширить свой функционал до глобального?

Нет, это будет более совершенный ИИ во всех отношениях.
Потому что у ИИ уже функционал расширен до всеобщего с момента создания первой большой языковой модели

[ivanij]

Потому что у ИИ уже функционал расширен до всеобщего с момента создания первой большой языковой модели

Однако ж пространство языка - сужает.

[BlackMokona]

Однако ж пространство языка - сужает.

Скорее в пространство символов, чем языка. Помнится в начале всей этой шумихи, рисовали ёлочки и телескопы с помощью символов. Т.е определённое представление о внешности предметов у него была даже до мульти модальности и прочих вещей. Сейчас с мультимодальностью, ему конечно намного легче.

[Olweg]

А между тем...

ИИ от Google испугался играть с консолью Atari!

История началась с инициативы инженера Роберта Карузо, который сначала сталкивал ИИ от OpenAI с винтажной Atari.

Те проиграли, и Карузо предложил сыграть Gemini — новая мультимодальная модель Google.

Сначала Gemini уверенно заявила, что «обходит по возможностям многие современные движки»!

Но потом «вспомнила» про поражения предшественников… и отказалась!

"ИИ признал, что соперник на 128 байт RAM и 1,19 МГц чипе кажется слишком грозным, и отказалась делать даже первый ход."

[BlackMokona]

Прогнозы людей по поводу того когда ИИ получит золотую медаль на международной математической олимпиаде.