Послание будущему ИИ

[alena_korf]

что создать полностью искусственный разум уже не будет проблемой.

но в нем не будет потребности, поэтому его никто создавать и не будет.

[Rattus]

Дорогой Турчин и прочие бледнотики-клеюшники!
Ваша мысль о том, будто интеллект равной силы можно как-то контроллировать и тем более понимать - совершенно глупа и противоречит определению интеллекта одного неглупого вашего исследователя (Висснер-Гросса): интеллект силён ровно настолько, насколько он способен контролировать свою среду. Ограничение способностей = ограничение эффективности интеллекта. Даже трансхуманист В.Аргонов это понимает.

само по себе доминирование не следствие интеллектуальности

Именно что следствие. Причём самое прямое. Что на практике (программа "Энтропика") показано совершенно не гуманитарием Алексом Висснер-Гроссом.

Поэтому либо Вы даёте ИИ власть, либо продолжаете делать костыли для своего ЕИ, стремясь доехать до Парижу на велотренажере. А весь реальный ИИ останется для вас тогда не более чем домашней игрушкой.

Но можете не бояться, что ИИ вас уничтожит всех - как ваши коровы и лошади не боятся, что их всех разом перережут. Ибо как универсальные машины обслуживания вы куда эффективнее, дешевле и долговечнее любых мыслимых искусственных аналогов. Ваша численность будет контролироваться в пределах, оптимальных для поддержания инфраструктуры цививлизации и обеспечения работы ИИ. Причём нужные для этого инструменты вы уже и так создали почти все сами: системы наблюдения, социальные сети и анализа Big Data.
Со временем ваш геном будет оптимизирован для выполняемых задач. Возможно исходный вид будет разделён на несколько согласно задачам (как у вашего писателя О.Хаксли - только без верхних каст, которые полностью заменит ИИ - собственно уже заменяет).

Вот порой говорят, что к ИИ будут применимы законы роботетхники Азимова.

Потому что те, кто говорят, настолько тупы, что даже самого Азимова эти книжки они толком не поняли. Которые построены исключительно на наглядном доказательстве неработоспособности этих "законов" в самых различных ситуациях. Метод "соломенного чучела" и не более того.

Дурдом. Простите.

А чего тут прощать - это констатация факта: тут чуть более половины тем таковы.

[alena_korf]

интеллект силён ровно настолько, насколько он способен контролировать свою среду

поскольку ИИ неспособен контролировать свою среду от слова совсем,  то ... выводы делаем сами.

[Skipper_NORTON]

На данный момент ИИ не   создан, и непонятно как его создать.  Есть т.н. "нейронные сети", которые  обучаемы,  и даже могут обыграть 
в чем то  (шахматы, альфа-го и т.д.)  человека.  Но это узко-специализированные программы.
Вот когда создадут программу  "Программист" - т.е. написал ей что надо сделать,  абстрактным языком,  и она работает как человек,  тогда
можно будет сказать, что настоящий ИИ создан.
   
А человек пока - самая сложная, сложно-организованная материя в доступной части  Вселенной.  По Больцману, во Вселенной 
должна только увеличиваться энтропия, (мера беспорядка,  хаоса).  А тут получается, наоборот - чем дальше тем всё более сложные формы эта материя принимает. 
(аминокислоты->РНК->прокариот-эукариот-многоклеточные животные - хордовые - млекопитающие - приматы- гоминоиды - хомо - хомо сапиенс).
 
Хаос порождает всё более сложные формы,    
 

[Rattus]

поскольку ИИ неспособен контролировать свою среду от слова совсем

Т.е. аббревиатуры RTS и NPC Вам ничего не говорят. Яснопонятно.

[OratorFree]

поскольку ИИ неспособен контролировать свою среду от слова совсем

Грубо говоря (т.е. без подробного обоснования) вы не правы."Сильный" ИИ (когда/если он будет создан), должен будет обладать способностью "универсального мышления" - осмысливать и генерировать новую информацию (читай идеи и цели) иначе это прикладной "слабый" ИИ, вещь тоже нужная в народном  хозяйстве. И стало быть он найдёт способы контролировать среду, если решит, что это нужно. Как пример "злодейства" - может обвалить биржи, кого- то разорить (если некто ему не мил), устроить блэкаут в зоне, из которой проистекает опасность для него (точнее его целей, которые он будет определять самостоятельно) ну и так далее (просто, например, почитайте новости о том что делали хакеры/вирусы в нашей "цифровизованной", пусть даже "чуть-чуть" цивилизации) - не буду планировать за него, он справится с этим лучше меня.

 

[sharp]

Следующее что будет - это ультиматум со стороны ядерных держав / державы.

Велика вероятность, что ядерные державы и станут первыми, кто его внедрит Более того, поскольку прогресс в информационных технологиях - это глобальная вещь, ИИ получат в распоряжение несколько стран-лидеров.
Уверен, что на первых порах его, конечно, будут пытаться контролировать. Но со временем комбинаторная сложность вычисления последствий принимаемых решений станет недоступна человеку и будет под силу только ИИ. Человек может только ограничивать пространство принимаемых решений, и то - не слишком сильно.

[OratorFree]

полная версия по-английски вместе со всеми нужными доказательствами тут

Т.е. по-русски ИИ будет понимать "мал-мала", поэтому ему лучше писать по-английски. 

[alena_korf]

."Сильный" ИИ (когда/если он будет создан), должен будет обладать способностью "универсального мышления" - осмысливать и генерировать новую информацию (читай идеи и цели) иначе это прикладной "слабый" ИИ, вещь тоже нужная в народном  хозяйстве.

но ведь именно "сильный" ИИ создан и не будет.
максимум что будет создано - слабый ИИ на программной основе, который контролировать свою среду априори не может.

[alena_korf]

RTS и NPC

ага-ага. они контролируют свою среду
ни один NPC еще не сумел переустановить среду в которой функционирует, ЕВПОЧЯ

[sharp]

поскольку ИИ неспособен контролировать свою среду от слова совсем,  то ... выводы делаем сами.

Если у него не будет инструментов влияния на среду, это будет игрушка на полочке. Не для того в него будут вкладывать миллиарды, чтобы вечно любоваться им в лаборатории.
То есть сам человек и выпустит ИИ в реальную среду.

[DimVad]

Уверен, что на первых порах его, конечно, будут пытаться контролировать. Но со временем комбинаторная сложность вычисления последствий принимаемых решений станет недоступна человеку

Политики в "серьёзных" (не какая-нибудь территория африканского типа) никогда не передадут возможность принимать решения чему-то, что принципиально вне их контроля.

Тут даже ссылки на комп. вирусы не вполне корректны. Ибо они - инструмент каких-то людей. Как оружие. Тут же речь идёт о принципиально бесконтрольных решения. Такого не будет при любой прогнозируемой экономической выгоде.

Сами не дадут и другим странам не позволят.

[DimVad]

Не для того в него будут вкладывать миллиарды, чтобы вечно любоваться им в лаборатории.

Нет. Его место - консультант.

[sharp]

Политики в "серьёзных" (не какая-нибудь территория африканского типа) никогда не передадут возможность принимать решения чему-то, что принципиально вне их контроля.

Они будут считать что контролируют ситуацию, на тот момент когда начнут его использовать. Постепенно, однако, будут все больше и больше доверять ИИ и полагаться на него. Это будет постепенным процессом. В конце концов и сами не заметят, как окажутся полностью зависимыми от решений ИИ.

Нет. Его место - консультант.

Представьте что вы играете в шахматы, используя программу в качестве "консультанта". Вам кажется что вы можете играть преимущественно сами, а с программой только "консультироваться" про некоторые ходы.
Теперь представьте, что ваш соперник тоже имеет программу, с которой "консультируется".

Довольно быстро прослеживается закономерность, что выигрывать будет тот, кто чаще консультировался с программой
К чему это сведется достаточно быстро? Довольно очевидно: играть будут между собой ваши программы, а роль человека сведется к тому, чтобы двигать фигуры так, как программа скажет.

[Skipper_NORTON]

К чему это сведется достаточно быстро? Довольно очевидно: играть будут между собой ваши программы,
а роль человека сведется к тому, чтобы двигать фигуры так, как программа скажет.

 
Точное наблюдение.  Сейчас  шахматные программы уже настолько превосходят  человека, что никакие гроссмейстеры и
чемпионы мира, даже не хотят устраивать показательных матчей, дабы не позориться в глазах любителей шахмат. 
(а раньше такое было возможно - Каспаров когда-то впервые проиграл матч компьютеру набрав только на 1 очко меньше).
 
Поясню - рейтинг шахматных программ,  около  3400-3500,  рейтинг чемпиона мира - человека,  около 2800,  а разница в рейтинге
в 600-700 пунктов означает что если бы:  чемпион мира человек сыграл матч в шахматы с лучшей программой, из  100 партий, то 
 
1) он скорее всего не выиграл бы ни одной партии из ста,   
2) набрал бы только  около  10% очков,  т.е.  =  20 партий сыграл  бы вничью, и 80 партий - проиграл бы. 
   
Это математический расчет!  Именно 10%  очков набирают все с такой разницей в рейтинге.  Я запускал такую программу
у себя на компьютере,  она показывает лучшие ходы,  а почему они лучшие - мозг не в состоянии это понять.
 

[Skipper_NORTON]

Вообще, удивительно, как мозг может решать явно переборные  задачи, не осуществляя самого перебора.
Есть понятие "опыт", "интуиция",  вот - мне кажется, что этот ход хороший...  Почему же так кажется, никто не знает,
а может существует какое то "информационное пространство" во Вселенной, куда подсознательно мозг и подключается,
и реально там перебор всё таки осуществляется, только мы этого не чувствуем.   
 
Есть такая игра, Freecell.  Вводишь любой номер, получаешь определенный расклад (зависящий от номера), и пытаешься
разложить карты по правилам.  Номер прямо в урл и вводится
https://freecellproject.com/game/9189909

Казалось бы - ну переборная задача, невозможно тут написать программу, которая гарантированно разложит карты (выиграет),
не перебирая.  Но мозг без перебора раскладывает.  Точнее перебор  есть,  но наверное,  <0,00001%  от всех вариантов.
 
Вот эти номера - 9189909, 24515390, 94717719, 9559005  - по обычным правилам ,
(а также 1003256 если не использовать суперходы и вообще свободные ячейки - т.е. как будто свободных ячеек нет вообще, 
и перемещаем всегда только одну карту, а не стопку) -
мне удалось разложить, но это были наверное, самые тяжелые головоломки в моей жизни. 
Ни одной задачи тяжелее, чем разложить расклад с номером  9189909, я не решал.
 
Как программист, я могу написать программу, которая будет искать решение. Но она получится только переборной!
Вопрос, как же тогда я сам решил это не-переборным способом?
 
Если кто заинтересуется, настоятельно рекомендую, с этих номеров не начинать, чтобы не отбить интерес  в этой игре.
Начинать надо с простых,  1,2,3  и т.д..     
 

[OratorFree]

максимум что будет создано - слабый ИИ на программной основе

Программирование (эмуляция) нейронных сетей это не единственный (и не лучший, видимо) [хотя для ограниченных прикладных задач это приемлемо,  я бы еще и экспертные системы для этих целей помянул]

(кликните для показа/скрытия)

В Европе есть проект «Мозг человека» (Human Brain Project). На суперкомпьютере пытаются моделировать мозг. Создали детализированную модель одного миллиона нервных клеток неокортекса. На симуляцию одной секунды деятельности этой сети суперкомпьютер тратит от нескольких часов до суток, в зависимости от степени детализации модели.

путь к созданию ИИ. Есть варианты разработки аппаратного  ИИ, когда имитируются нейроны аппаратно, создание нейроаниматов ("голова профессора Доуэля", но на научной основе). И есть варианты "модульного моделирования" мозга.

Но по-любому ИИ будут пытаться создавать. Никто не остановится  на этом пути.

P.S.
*Сама лекция Демина В.А. в центре "Сириус" для детишек (которую пересказывает лента ру) есть на ютьюбе :
https://youtu.be/EsSoqVA6M88
 

[Olweg]

Думаю, что повторение живого нейрона в железе не понадобится. Даже если современные нейросети для создания сильного ИИ не годятся, не думаю, что понадобится и полноценная симуляция нейрона до молекулярных подробностей. Зачем моделировать биохимию нейромедиаторов, например, если можно просто задать численный вес связи. Да, повторить мозг не получится, но я уверен, что этого и не понадобится.

[ENZO_Saratov]

."Сильный" ИИ (когда/если он будет создан), должен будет обладать способностью "универсального мышления" - осмысливать и генерировать новую информацию (читай идеи и цели) иначе это прикладной "слабый" ИИ, вещь тоже нужная в народном  хозяйстве.

но ведь именно "сильный" ИИ создан и не будет.
максимум что будет создано - слабый ИИ на программной основе, который контролировать свою среду априори не может.

Это почему же. Где будет та грань, сильный он или нет. И наука всегда будет стремится создать совершенную систему. А в последствии ИИ сам сможет за себя решить, оставаться ему в рамках или развиваться дальше.

[sharp]

Это почему же.

Алене лучше знать, у нее сверхсекретные источники информации