16 бит на канал и переполнение? Правда, непонятно тогда, как на первом снимке получается 66170, когда в 16 беззнаковых битах максимум — 65535.
Но на глаз по величине похоже.
Попробуйте работать в меньшем диапазоне величин, чтобы сумма не превышала 65535.