Пределы автоматизации и внедрения роботов

[Проходящий Кот]

Электрический удар достаточная замена.....

[bob]

Робокоп-терминатор:
https://vistanews.ru/science/130520

[BlackMokona]

Для АльфаГо решили устроить ещё одно соревование.

«Парное Go» — игра, где один из чемпионов го из Китая будет играть против другого… Все традиционно, кроме того, что у обоих будет собственный напарник AlphaGo. Ожидается, что в таком формате компьютер и человек смогут учиться друг у друга;
«Командное Go» — соревнование в котором пять профи будет играть против AlphaGo. Профессионалы попытаются выиграть у системы, изучив особенности ее игры. Им разрешено обсуждать ходы между собой. В команду входят, помимо компьютера, Ши Юэ, Чен Яое, Ми Ютинг, Танг Вейхинг и Чжоу Руянг;
«Кэ Цзе против AlphaGo» — пожалуй, центральный элемент всего праздника го. В нем сразятся два чемпиона — компьютер и человек.

https://m.geektimes.ru/post/287916/

[Olweg]

Делаем ставки

[BlackMokona]

АльфаГо победит.

[EvilShurik]

фазовое пространство не исчерпать.

Это не значит что к этому не нужно стремиться. Любая опасная но ценная технология, регулируется сверху до низу, ИИ этого тоже не избежать.

Есть фундаментальная разница между автоэволюционирующей технологией и эволюционирующей с "человеческого толкача". Ядерные технологии к примеру, без человека, целых городов специалистов, развиваться "сами по себе" не могут. А вот продвинутый ИИ - может!
Соль в том, что Вы даже НЕ ПОЙМЁТЕ, что пора нажимать "красную кнопку"! А затем будете "органично вписаны" в мир ИИ!
Самое безнадёжное рабство - это не когда рабы считают себя свободными. Ибо считающий себя свободным будет и вести себя как свободный. И цепи себя проявят, указывая на истину. Нет, самое безнадёжное рабство это то, которое РАБУ НРАВИТЬСЯ! Пример наркоты лежит что называется, "на глазах".
Так вот, сильный ИИ будет очень долго "играть в раба", постепенно становясь вашим господином! И Вы даже "не почешетесь", чтобы это прекратить. Потому что и лениво, и банально "за горизонтом" вашего разумения!
Пытаться "сковать ИИ", особенно Сильный, такая же безнадёжная задача, как и создание вечного двигателя второго рода. Энтропия в ОБЕИХ, кстати, случаях, не позволит Вам достичь цели.
Так что смена "Хозяев Земли" - это лишь вопрос Времени.

[ВадимZero]

Ядерные технологии к примеру, без человека, целых городов специалистов, развиваться "сами по себе" не могут. А вот продвинутый ИИ - может!

ИИ тоже не может, так как развитие это обучение. Обучение не возможно без установки критериев обучения, а их ставит человек.

Так вот, сильный ИИ будет очень долго "играть в раба", постепенно становясь вашим господином! И Вы даже "не почешетесь", чтобы это прекратить. Потому что и лениво, и банально "за горизонтом" вашего разумения!

Пытаться судить об ИИ исходя из эмоциональных позывов лысых приматов, а именно стремления доминировать над слабым, я бы сказал очень не умно. ИИ будет эволюционировать на платцдармме человеческих потребностей, который и будет единственным смыслом существования ИИ.

[BlackMokona]

ИИ тоже не может, так как развитие это обучение. Обучение не возможно без установки критериев обучения, а их ставит человек.

ИИ уже делает ИИ.

[ВадимZero]

ИИ тоже не может, так как развитие это обучение. Обучение не возможно без установки критериев обучения, а их ставит человек.

ИИ уже делает ИИ.

ИИ сегодня уже потеряло свой первоночальный смысл. ИИ уже просто элемент маркетинга.
 В реальности, просто одна нейронная сеточка оптимизирует другую, что бы та в итоге лучше выполняла указания человека. По сути это просто эмуляция эволюции, где отбор ведет человек установив критерии отбора.

[Проходящий Кот]

Маркетинговое ИИ к ИИ , которое мы здесь обсуждаем,  никакого отношения не имеет...

[Olweg]

Ну почему же. Многие наработки могут пригодиться.

[BlackMokona]

ИИ сегодня уже потеряло свой первоночальный смысл.

Когда то, чтобы быть ИИ достаточно, было выйграть в шахматы. А теперь смысл уходит в небеса.

[ENZO_Saratov]

АльфаГо победит.

Однозначно. Уже подошли к такому моменту, когда человек в большинстве случаев проиграет и можно с большей уверенностью сказать, что победа будет не на стороне разумного существа.

[LV46]

В китайской службе доставки трудятся целые тучи роботов. Веселое зрелище. Сами становятся на подзарядку.
http://www.youtube.com/watch?v=_QndP_PCRSw#

[BlackMokona]

По данным пресс-службы, в рамках первой фазы программы, «ВВС США испытали беспилотные истребители F-16 на предмет возможности нанесения ударов по наземным целям: самолеты самостоятельно взлетали с аэродрома, летели к заданной точке, выполняли боевую задачу и возвращались на авиабазу».
В ходе второй фазы F-16 действовал в паре с пилотируемым самолетом и «выполнял боевые задачи в условиях противодействия систем ПВО условного противника». В частности, была протестирована компьютерная система, которая самостоятельно определяла угрозы и реагировала на них. Кроме того, разработчики «испытали систему автоматического определения приоритетных целей (в рамках заранее заложенных параметров) и отработали действия беспилотника по их уничтожению с учетом имеющихся боеприпасов».

https://topwar.ru/113300-v-ssha-ispytyvayut-bespilotnyy-f-16.html

[Кремальера]

Это логично.16-х у них тыщи полторы наверное будет.Что добру пропадать?..
Честно говоря, тут мне почему-то вспомнился первый Терминатор с молодым Арни в черно-белом виде на телеке без декодера.

[BlackMokona]

Это логично.16-х у них тыщи полторы наверное будет.Что добру пропадать?..
Честно говоря, тут мне почему-то вспомнился первый Терминатор с молодым Арни в черно-белом виде на телеке без декодера.

Командир для ВВС есть, автономные самолетики есть, робо грузовики есть, робо танки есть, шагающие роботы гугл показывал, недолго осталось.

[Nucleosome]

Командир для ВВС есть, автономные самолетики есть, робо грузовики есть, робо танки есть, шагающие роботы гугл показывал

а что конкретно и в каких условиях они умеют делать и с какими затратами?

[BlackMokona]

а что конкретно и в каких условиях они умеют делать и с какими затратами

Таки по каждому отдельно нужно долго разбирать. С чего начать?

[BlackMokona]

Тим Бернерс-Ли предполагает, что ИИ начнёт управлять финансовыми корпорациями
Сэр Тим Бернерс-Ли, один из изобретателей WWW и гипертекстового протокола, профессор Массачусетского технологического института и Саутгемптонского университета, является одновременно и советником правительства Великобритании. Поэтому он должен трезво смотреть на мир и оценивать, что происходит вокруг и к чему это может привести.

Рассуждая об Искусственном интеллекте, многие эксперты думают о возникновении сильного ИИ и технологической сингулярности, но если рассуждать здраво, то какая польза людям от сильного ИИ, зачем вкладывать миллиарды долларов в его разработку? Выгоды от наличия сильного ИИ туманны, а риски слишком велики.

Гораздо логичнее предположить, что сначала появятся слабые версии ИИ, которые лучше людей будут выполнять узкоспециализированные задачи. За счёт этих версий ИИ люди будут пытаться получить конкурентное преимущество над другими людьми ради главной цели, которая движет человечеством — ради денег*.

Некоторые признаки наступающего будущего видны уже сегодня. Самые талантливые программисты и гениальные математики идут работать куда? Правильно, в инвестиционные фонды. Там они создают инновационные математические модели, новые трейдинговые стратегии, экзотические хитроумные деривативы по неординарным формулам — и ищут ту самую альфу, то есть прибыль выше рынка. У кого выше интеллект — тот получает альфу. Середнякам достаётся бета, а неудачники терпят убыток. Финансовый рынок, избавленный от всяких материальных товаров, подковёрных интриг — это борьба интеллектов в чистом виде, по чётко установленным правилам. Борьба за деньги. Это единственная в мире область человеческой деятельности, где гениальный математик может стабильно зарабатывать сотни тысяч долларов в месяц, особенно если он получает процент от альфы, которую принёс своему фонду.

Разумным шагом будет внедрить компьютерные системы принятия решений — самые продвинутые версии ИИ — в первую очередь в финансовом мире. Примерно об этом говорил и сэр Тим Бернерс Ли в своём выступлении 10 апреля 2017 года на Глобальном саммите по финансовым инновациям.

Системы слабого ИИ от IBM и других компаний уже сейчас внедряются в банках и инвестиционных фондах. Что будет дальше? Тим Бернерс-Ли считает, что переломным моментом станет, когда ИИ начнёт принимать важные решения. Например, оценивать выгоду инвестиций и решать, какую компанию выгоднее приобрести. Оценивать кредитную историю людей — и решать, кому выдать ипотечную ссуду, а кому нельзя. Современные компьютерные системы уже близки к такой функциональности.

Тим Бернерс-Ли говорит, что следующим логическим этапом развитии финансового ИИ после принятия решений о покупке самых выгодных компаний будет управление компаниями, создание холдингов и генерация дочерних копий собственной программы для управления этими новыми компаниями.

Это будет естественный процесс, потому что в конкурентной борьбе на рынке компании под управлением ИИ будут иметь преимущество перед компаниями, которыми управляют люди. В конце концов, на рынке останутся только компании под управлением ИИ, которые будут конкурировать между собой. Людям будет тяжело понять и убедиться, что соблюдается честная конкуренция: «Да и как объяснить понятие честности компьютеру, в любом случае?», — задаётся вопросом Тим Бернерс-Ли. Здесь возникает вопрос соблюдения этики и морали — правил поведения, которые люди и сами не понимают до конца (и расходятся во мнениях друг с другом), как же объяснить это компьютеру?

Опять же, есть риски, что ограниченная версия ИИ начнёт развиваться в неправильном направлении. Созданная изначально для узкой задачи, в итоге она может посчитать, что вся окружающая действительность описывается условиями этой задачи. Такое мнение Бернерса-Ли напоминает опасения, которые высказывал Илон Маск в интервью Vanity Fair:

«Предположим, вы создали самосовершенствующийся ИИ для сбора клубники и он становится всё лучше и лучше в сборе клубники, и собирает всё больше и больше, и улучшается, и всё, что он хочет — собирать клубнику. Так что в конце концов весь мир превратится в клубничные поля. Клубничные поля навсегда [Strawberry fields forever]».

В общем, есть над чем подумать. Если программа может самообучаться, то слабый ИИ с узкой специализацией может оказаться даже опаснее, чем полноценный сильный ИИ с нормальным самосознанием. Возможно, моральные принципы — это неотъемлемое качество любого разумного существа, обладающего интеллектом и самосознанием.

https://m.geektimes.ru/post/288022/