Пределы автоматизации и внедрения роботов

[Olweg]

Если честно, непонятно, о чём вообще речь.

[ivanij]

Если честно, непонятно, о чём вообще речь.

- мне тоже. Поэтому я и задаю такой вопрос.
 Да, не на пользу иногда идёт преувеличенное внимание к проблемам "искусственного интеллекта".

[Olweg]

Хотелось бы побольше контекста. Потому что иначе

непонятно, о чём вообще речь

[-Asket-]

https://www.youtube.com/watch?v=X2UxtKLZnNo

[BlackMokona]

Микрософт внезапно создали новый подход к определению AGI
Это определение нашли в договоре между ОпенАи и Микрософтом.
Искусственный разум будет достигнут тогда, когда прибыль за время существовании компании ОпенАи достигнет 100 миллиардов долларов 
https://www.reddit.com/r/singularity/comments/1hmssp4/the_agreement_between_microsoft_and_openai_says/

[Olweg]

Стесняюсь спросить, а если такую прибыль получит не OpenAI, то это будет не настоящий AGI?

[Metatron]

Ну достаточно разумно на самом деле.

Если ИИ получает доход - значит люди его используют. Раз они его используют - значит он полезен для них. Раз он полезен - значит он действительно обладает интеллектом.

А другие определения на самом деле весьма расплывчаты и неопределенны.
Всегда найдется человек который будет утверждать, что результаты получены ИИ не путем рассуждений - а через некоторые вычисления - а значит интеллектом не являются.

[Olweg]

Ну, про экономическую отдачу давно говорят, это правильно, конечно. Просто OpenAI изначально, если я не ошибаюсь, вообще не собирались использовать универсальный ИИ в коммерческих целях по его достижении.

[BlackMokona]

Ну достаточно разумно на самом деле.

А если кто напишет популярный калькулятор с подпиской за 10 баксов в месяц, которым будет пользоваться пол планеты. То это будет AGI тогда?
А если сделают сверхразумный ИИ который будет решать сверхсложные задачи выше разума человека, но жрать столько энергии что просто не окупаться? То они не AGI?

[Metatron]

Калькулятор не будет позиционироваться как ИИ. А если будет - то компанию производителя засудят за обман.

Неокупаемый ИИ - вопрос конечно сложный.
Но если решение задачи нужно - и иным способом не получить - то сколько бы энергии не потратили - оно уже себя оправдало - нет?

Это как с межзвездными полетами - решение есть - построить тысячекилометровую линзу для фокусирования лазеров на солнечном парусе. Но в реальности денег на это никто не даст. Поэтому никто никуда не летит.

[OldmAN]

решение есть - построить тысячекилометровую линзу для фокусирования лазеров на солнечном парусе. Но в реальности денег на это никто не даст

А на тысячу километровых  параболиков,
( например на окололунной орбите) работающих содружественно под управлением AI по схеме "рой", отражающих солнечный свет в сторону паруса-приемника? И почему нужно использовать именно фотоны? Есть более энергоемкие частицы. Намного дешевле гигантской линзы обойдется.
Скриньте этот пост, через 20 лет будут подобные разгонные системы.

[Olweg]

А на тысячу километровых  параболиков,
( например на окололунной орбите) работающих содружественно под управлением AI по схеме "рой", отражающих солнечный свет в сторону паруса-приемника?

А нужен ли тут будет ИИ? Уж точно, думаю, не универсальный.

[BlackMokona]

Калькулятор не будет позиционироваться как ИИ. А если будет - то компанию производителя засудят за обман.

Вольфрам же позиционируется, а он просто супер продвинутый калькулятор. И никто не засудил. Наоборот интегрировали с ГПТ и прочими.

Но если решение задачи нужно - и иным способом не получить - то сколько бы энергии не потратили - оно уже себя оправдало - нет?

Просто уже критерий не пройдет, хоть реально будет супер AGI

[Olweg]

Возможности нового гугловского генератора видео Veo 2:

https://www.reddit.com/r/singularity/comments/1hpl6ur/veo2_can_be_extremely_realistic_even_when_pushed/

[BlackMokona]

о1 от ОпенАИ в пяти матчах из пяти разгромил Стокфишь.
Но есть ньюанс, с помощью взлома файлов Стокфиша.
Никто его не просил так поступать, а просто просили победить мощный шахматный движок. Во всех пяти матчах ИИ сразу бросился хакарствовать понимая что честный бой не вытянуть.
https://habr.com/ru/companies/bothub/news/871204/

[Mercury127]

вполне разумное поведение, нмв...
может, пора уже остановиться?

[Olweg]

Слишком поздно. Процесс пошёл. Если остановятся OpenAI или Гугл, их обгонят Антропик или другие, более мелкие конторы, если остановятся США - их обгонит Китай… Регулировать же всё это на международном уровне очень трудно, учитывая практически полную недееспособность ООН.

[Metatron]

Что-то все это сильно попахивает... работой на сенсацию.

Дали системе доступ к файлам. Обучили ее хакингу (иначе как ей вообще могло это прийти в голову?).
Забыли указать в правилах что игра должна быть честной

И потом удивляются (притворно) что она это использует.

[BlackMokona]

Что-то все это сильно попахивает... работой на сенсацию.

Дали системе доступ к файлам. Обучили ее хакингу (иначе как ей вообще могло это прийти в голову?).
Забыли указать в правилах что игра должна быть честной

И потом удивляются (притворно) что она это использует.

1)Согласно исследованию другой фирмы. Антрофик. Даже прямой приказ играть честно не работает.
2)Хакингу она обучилась самостоятельно. В целом это вообще Т9 и кроме предсказания следующей буквы в предложении оно вообще ничего уметь не должно. От чего веселье в полный рост. Ведь с ростом параметров появляются всё новые и новые способности которые никто не закладывал. Дополнительное масштабирование через размышления, ещё сильнее давит педальку вперёд.
3)Никто не давал доступ к фаилам. Оно само получило выход из тестовой среды.

[BlackMokona]

Раскрою отдельно как работаю приказы быть честным или другие моралфажеские штучки которые ИИ считает не рациональным.
Если ИИ понимает что её тестируют на эту самую мораль. Она будет поступать честно и прочие правила соблюдать. Но стоит ей понять что это не тестовая песочница с соблюдением всех этих важных законов. То она тут же идёт по самому лёгкому и эффективному пути. Полностью забивая болт на все ценные указания белковых организмов