Оптимальное сложение снимков + Программа FITStacker

[StasV]

Часто мы сталкиваемся с ситуацией, когда необходимо сложить кадры с разным уровнем шумов. Основная причина – отличие температура сенсора при съемке кадров. Характерным примером является съемка одного объекта в разные ночи с разной температурой воздуха. Так же температура сенсора меняется и из-за нагрева камеры в процессе съемки.
Словом, ситуация типичная.
Я задумался над вопросом оптимального сложения снимков и серии снимков с разным уровнем шумов. Понятно дело, что если у одного снимка шум больше, то вклад его в общую сумму должен быть меньше. Вопрос, на сколько.
Цель - найти оптимальную методику сложения снимков и серии снимков по критерию минимизации шумов.

Данное исследование я сделал на примере сложения 2-х серий снимков М31, сделанных за 2 ночи, на Майданаке в августе 2008г. Первая серия содержала 13 кадров, вторая -15.  Средняя температура этих ночей отличалась на несколько градусов.
Яркость серий после сложения с нормализацией была одинакова с точностью до 1.3%. Уровень шума отличался. Под уровнем шума далее будет пониматься значение Sigma одной и той же области фона, свободной от звезд.
Для определения яркости можно взять характерную область объекта, непересвеченную звезду.

Обозначим:
1) яркость объекта первой серии  - I₁, яркость второй серии - I₂. В общем случае при постановке задачи, считается, что яркость может быть разной.
2) уровень шума первой серии -  SNR₁=S₁, второй - SNR₂=S₂
Отношение С/Ш первой серии -  I₁/S₁, второй  - I₂/S₂
Шум в первой и второй серии считаем независимым и сложение шума приводит к сложению дисперсий.
Т.о. отношение С/Ш суммы кадров будет -   SNR_S= (I1+k*I²)/Корень(S1²+k²*S₂²)
Где k – весовой коэффициент перед второй серией
Задача оптимального сложения заключается в определение  значения k при котором SNR_S будет максимальным.
Рассмотрим поведение данной функции.
При k =0, вклад второй серии будет нулевым и SNR_S= SNR₁
При k -> бесконечность, вклад первой серии будет стремиться к 0 и SNR_S=SNR₂
На графике приведена данная функция для конкретного случая с Андромедой

Исследование функции показало, максимум достигается при значении k=(SNR₂/SNR₁)²  Или при равной яркости снимков, при k=( S₁/S₂)²
Т.е. Вклад одной серии в общую сумму должен быть пропорционален квадрату отношения SNR.

В моем случае:
SNR₁=338
SNR₂=286
Оптимальный k=0.7
Как показывают эти цифры, шумы одной серии относительно другой отличались незначительно и оптимальное сложение от прямого сложения (k=1) тоже отличались не сильно.
А конкретно, оптимальное сложения дает тот же результат, что и при неоптимальном сложении (k=1) при использовании на один кадр меньше. Т.е. используя оптимальное сложение я выиграл 8 мин. экспозиции из 224. Это конечно не много.
Но и пример не очень удачный. А вот при сложении нескольких серий с разницей температуры в 10-15 градусов, данная методика должна дать существенный выигрыш.

Обобщив методику оптимального сложения на n серий (кадров) я пришел к следующему.
Возьмем SNR₁ за опорный. Тогда, k_N=(SNR_N/SNR₁)², где k_N – оптимальный весовой коэффициент при серии N,   SNR_N – Отношение Сигнал/Шум серии N.
Данная методика, естественно применима не только к сериям но и к отдельным кадрам и может быть полезна при съемки с небольшим количеством кадров для поднятия веса первого – холодного (Пока матрица не нагрелась)

В Приложении расчетный файл, в котором строился график

[Pilgrim]

Стас, спасибо большое за табличку, очень удобно!
Что-то подобное для себя уже делал, пришел к тому же результату, только жутко кривым путём, и руки не дошли всё причесать. Твоя табличка удобнее, буду юзать 

Но по теме есть вопрос. Как быть с кадрами, различающимися не только шумом, но и уровнем фона?
Это бывает довольно часто - дымка набежит, засветка в течение ночи меняется, объект в ходе суточного движения меняет высоту и положение относительно засвеченных направлений и т.п. (Не говоря уже о сложении десятков часов балконных накоплений с дефицитными выездными часами )

На первый взгляд достаточно значение I считать как разность между яркостью объекта (та же не пересвеченная звезда или равномерный кусок туманности), и яркостью фона. Но не уверен как тогда надо нормировать кадры - по яркости объекта, фона или чтобы их разность была одинакова?

Или надо кадры не нормировать (умножать на коэффициент нормализации), а вычитать из них разность I_фонаN - I_фона1, где I_фона1 - яркость фона на опорном кадре, а I_фонаN - на текущем, и далее работать со значениями I и S как обычно Что-то не соображу 

[StasV]

Игорь, чтобы ответить на вопрос, как оптимально складывать картинки с разным уровнем шума, нужно более конкретно поставить задачу.
Ранее задача стояла как:
«Найти оптимальную методику сложения снимков и серии снимков по критерию минимизации шумов».
Теперь сформулируем ее так:
«Найти оптимальную методику нормирования и сложения серии снимков по критерию минимизации шумов на выходном нормированном изображении»

Под выходным нормированным изображением понимается следующие.
Когда мы готовим изображения к публикации, мы приводим яркость изображения и уровень фона к некоторому стандартному виду. Фон устанавливаем в районе 10-20 единиц, а ярчайшие части объектов подгоняем к уровню 230-245 (цифры для восьмибитной шкалы). Если мы складываем кадры с разным уровнем фона и с разным ослаблением дымкой, мы все равно потом его приводим к некому стандартному виду, который я описал в цифрах выше.

Я считаю, чтобы получить оптимальный SNR выходного нормированного изображения SNR_OUT,  необходимо:
1) Отнормировать каждый кадр (каждую серию), таким образом, чтобы этот кадр еще до сложения был приведен к выходному стандарту. Т.е. выбираем для себя требуемый уровень фона и уровень ярчайшей части туманности. Далее каждый кадр (серию) приводим к этим величинам.
2) Применяем описанную выше методику расчета весовых коэффициентов по формуле k=( S₁/S₂)²

Т.о. мы оптимизируем выходную картинку а не промежуточные изображения.

Оптимизируя промежуточные изображения и уже в последствии нормируя их на требуемый уровень фона и яркость объектов, мы потеряем оптимальность.

К сожалению не успеваю подтвердить данные предположение конкретными формулами, поэтому ИМХО

[StasV]

Целесообразность использования различных методов сложения.

Имеются 2 серии снимков. Пусть серии нормированы по уровню фона и яркости объектов. Шумы серий отличаются. Существует 4 способа сделать из этих 2-х серий итоговый файл–
   1.Сложить напрямую, I_OUT= I₁+I₂
   2.Использовать оптимальное сложение, I_OUT= I₁+kI₂, где k  оптимальный весовой коэффициент
   3.Отбросить второй файл,  I_OUT= I₁
   4.Отбросить первый файл,  I_OUT= I₂
Какой из них следует применять в зависимости от относительного шума этих кадров а именно, в зависимости от SNR₁ /SNR₂ ?

В данном посте будут только анализ поведения выходного SNR различных методов. Все выводы будут в сл. посте.

Итак, еще раз введем условные обозначения.
Имеем 2 серии снимков (2 кадра), назовем их L₁ и L₂.
Каждый кадр имеет свой SNR – SNR₁ и SNR₂.
Выходной файл имеет SNR – SNR_OUT.
SNR_OUT в зависимости от метода может принимать значения:
   SNR₁ –при отбрасывании второй серии
   SNR₂ –при отбрасывании первой серии
   SNR_S –при использовании прямого сложения
   SNR_OPT – при использовании оптимального сложения.

На графике 1 приведена зависимости SNR_OUT при разных методах от отношения SNR₁/SNR₂.
Отношение SNR₁/SNR₂ отложено по оси X  и меняется  от 10 до 0.1.
От точки А к точке E SNR₁ падает по закону геометрической прогрессии, а SNR₂ растет по аналогичному закону. В точке С они равны друг другу.
SNR₁ – красная линия
SNR2 – синя линия
Результат использования прямого сложения (SNR_S)представлен на графике черной линией.
Результат оптимального сложения (SNR_OPT) – зеленой.

Рассмотрим поведения графиков слева направо:
Точка А
Результат оптимального сложения примерно равен SNR₁. SNR₂ мало. Результат прямого сложения меньше SNR₁. 
Или в виде неравенства:
                                      SNR₁~=SNR_OPT>SNR_S>SNR₂
Отрезок АB
Результат оптимального сложении постоянно растет относительно всех других вариантов

Точка B
Это очень важная точка перелома. В ней результат прямого сложения достигает значения SNR₁, а выигрыш от применения оптимального сложения становится максимальным. Точке B соответствует значение SNR₁/SNR₂ = Корень(3) ~=1.73
В виде неравенства:
                                      SNR_OPT>SNR₁=SNR_S >SNR₂

Отрезок BC
На данном отрезке SNR_OPT падает, а SNR прямого сложения растет.
В виде неравенства
                                      SNR_OPT>SNR_S>SNR₁ >SNR₂

Точка С
В этой точке значения SNR₁ и SNR₂ уравниваются (серии одинаковые в части шумов), а оптимальное сложение вырождается в обыкновенное.
В виде неравенства
                                      SNR_OPT=SNR_S>SNR₁=SNR₂

Далее все повторяется в обратном направлении. Просто SNR₁ и SNR₂ меняются местами.

На графике 2 представлена зависимость отношения SNR_OPT к максимальному из SNR₁, SNR₂, SNR_S
Максимальный выигрыш оптимальное сложение дает в точках
   B - SNR₁/SNR₂=Корень (3) и
   D -SNR₁/SNR₂ = 1/Корень(3).
В этих точках оптимальное сложение лучше любого другого в 1.154 раза.
В Точках A C и E выигрыша от использования оптимального сложения нет.

[StasV]

Выводы
1.Если одна серия хуже другой по SNR более чем в 1.73 раза, прямое сложение только ухудшит результат менее шумной серии. Используйте оптимальное сложение.

2.Оптимальное сложение всегда лучше любого другого метода. Наибольшей выигрыш от использования достигается при отношении SNR₁/SNR₂ = Корень(3) ~= 1.73.

3.Если одна из серий существенно шумнее другой, лучше ее просто не использовать.

На мой взгляд, вывод N1 очень важен. Он означает, что не всегда выгодно просто складывать кадры. Результат может ухудшиться.

Посмотрим, как легко получить разность в  шумах в 1.73раза. Для этого обратимся к исследованию Юрия Гилева
https://astronomy.ru/forum/index.php/topic,24307.msg443989.html#msg443989

Из графика видна, что отношение шумов в 1.73 раза можно получить при разнице температуры уже в 10*С !!!
Получается, что если вы сняли 2 одинаковые серии в разные ночи с разницей температуры в 10-20*С,  просто складывать холодную серию с теплой нельзя. Это не улучшит результата холодной серии. Единственный выход оптимальное сложение.

[LifeIsGood]

Вопросик, что подразумевается под
"Яркость серий после сложения с нормализацией была одинакова с точностью до 1.3%" - о какой яркости идет речь? Средняя яркость всех пикселей за вычетом темнового кадра?

[StasV]

Вопросик, что подразумевается под
"Яркость серий после сложения с нормализацией была одинакова с точностью до 1.3%" - о какой яркости идет речь? Средняя яркость всех пикселей за вычетом темнового кадра?

Точнее, яркость выбранной в качестве опорной звезды после полной калибровки файла

[LifeIsGood]

Точнее, яркость выбранной в качестве опорной звезды после полной калибровки файла

Такой подход катит

[Павел Бахтинов]

Предложенная идея "оптимального сложения", предусматривающая предварительное умножение складываемых кадров на коэффициент, пропорциональный квадрату SNR, сама по себе очень хороша, однако на пути ее практического использования лежит "подводный камень", на который хотелось бы обратить внимание.

Умножение на оптимизирующий коэффициент ведет к тому, что у такого оптимизированного по шумам кадра уровни сигнала (как от объекта, так и от фона неба) изменятся. В случае простого арифметического сложения кадров это неважно, но работа алгоритмов сложения с подавлением артефактов (типа сигма-клиппинга) будет нарушена. Такие алгоритмы отбраковывают пиксели, значения которых на данном кадре отличаются от других кадров серии более, чем на заданную величину, поэтому на кадре, отличающемся от остальных по уровню сигнала, наряду с артефактными пикселями может быть отбракована и часть годных.
Чтобы этого избежать, перед использованием сигма-клиппинга необходимо, как минимум, привести все кадры к одинаковому уровню фона, путем их сложения с соответствующими константами (это указано и в инструкции к IRIS-у, там есть и специальная автоматическая приспособа для этого). Однако выравнивание серии по фону не полностью решает проблему; на протяженных деталях объектов (туманностей и т.п.) уровень сигнала умноженных на оптимизирующий коэффициент кадров все равно будет отличаться, и эффективность работы сигма-клиппинга окажется снижена.

Пока все это - чисто теоретические опасения: какой фактор здесь перевесит - выигрыш от применения пропорционального квадрату SNR оптимизирующего коэффициента, или проигрыш от нештатной работы алгоритма удаления артефактов - сказать трудно, это предмет отдельного исследования.

----
PS. Разумеется, все сказанное относится лишь к "оптимальному сложению" отдельных кадров, в случае же сложения ранее обработанных серий (где артефакты уже удалены) никаких вопросов не возникает, предложенный метод может использоваться без ограничений.

[Грин]

Стас, чтобы не забивать тему про водородные, продолжу вопросы здесь, хорошо?
Вот начальный снимок серии и конечный. Видно, что объект уходит вниз, засветка фона на последних 3х снимках заметно повышается. Я так понимаю, что это должно убивать контраст и детализацию слабых участков.
 Допустим, перешли на меньшие выдержки - фото №3. Фон неба уменьшился, но вместе с проработкой слабого сигнала. Как оптимальнее поступать в таких случаях?
1. Пустить в сложение только лучшие кадры. остальное - в корзину?
2. Калибровать снимки с выравниванием по Stretch и складывать вместе все кадры из разных серий?
3. Кадры из разных серий складывать отдельно, а затем результаты складывать? Опять же - выравнивать их по Stretch и как - по фону или яркости звёзд?
 Пользую Максимку 4.60, ибо Ирис как-то совсем не пошёл у меня...

[StasV]

Олег,
В первую очередь, нужно доснять флеты и сделать полную калибровку файлов. Правильная калибровка гораздо важнее оптимального сложения.
Естественно, флеты желательно снимать сразу после фотосессии. Но если выбирать между снятыми позже и их отсутствием, то лучше первое.

Далее, скажите еще вот что
1. Кадры снимались за один заход или в разные ночи?
2. Если в разные ночи, то на сколько сильно отличалась условия (температура, засветка, дымка, атмосфера, точность гидирования)?
3. Есть ли кадры, которые явно отличаются от большинства в худшую сторону (засветка, смаз)?
4. Сводный вопрос: Можно ли разбить все кадры на 2-3 характерные группы по 8 -15 кадров. Группы могут быть сформированы по выдержке, ISO, по уровню шумов, смазу, засветке?

[Грин]

Флеты досниму.
1. Конкретно эти кадры снимались в одну ночь одним заходом.
3. кадр №2 - засвечен фон неба, таких 3шт. Вся серия без смазов.
4. Три группы - 20х10мин хорошие + 3х10мин с повышенным фоном неба + 4х8мин.
 Вообще у меня исходников по разным объектам  с такими разными группами набралось уже часов на 40, а вот ума дать им времени экспериментировать не хватает, поэтому хотелось бы как-то принципиально разобраться...
 Спасибо!

[StasV]

Предлагаю поступить следующим образом
1.  В 3-х кадрах с повышенным фоном приведите фон к среднему по остальным кадрам значению. После нужно померить шум фона (Sigma на участке неба без объектов и звезд). Если уровень шума близок к уровню остальных кадров (Экспертная оценка: S1/S2 < 1.2), то и нормально. Можно отнести их к хорошей серии. Если уровень шума больше, я бы их просто выкинул.
2.  Далее в каждой из 2-х серий складываем файлы по сигма клипингу.
3.  Результат сложения одной из серий приводим по уровню шумов и яркости опорной звезды к результату сложения другой.
4.  Замеряем шум фона на обоих картинках. Если отношение шумов не превышает 1.15, просто складываем серии. Если отношение шумов больше, используем оптимальное сложение.

[Грин]

Спасибо!!!
 Уровень шума мерял на завиньетированных углах - он невелик и одинаков.
Досниму флэты - буду продолжать.

[StasV]

Спасибо!!!
 Уровень шума мерял на завиньетированных углах - он невелик и одинаков.
Досниму флэты - буду продолжать.

Зыбыл, все вышесказанное нужно делать на калиброванных файлах.
На характерно завиньетированных углах лучше шум не мерить, возьмите чуть к центру.
Удачи в экспериментах!

[Ivan7enych]

Часто бывает, есть результаты съемки в разные дни, с разными условиями (накопленное время, дымка на небе, температура камеры) влияющими на шум.
Хочется сложить результаты 2-3 ночей вместе чтобы получить наилучший сигнал/шум. Вопрос - с какими коэфициентами надо их складывать? По идее понятно, чем более шумный снимок, тем меньше коэфициент при сложении. Только какой именно коэфициент?

В математику сильно лазить не хочется, я считал по аналогии. Пусть мы складываем 5 кадров с одинаковым уровнем и сигнала и шума, естественно коэфициент у каждого =1.
Сложим сначала первые 4 кадра, получим кадр с в 4 раза большей яркостью и 2 раза большим шумом (шум увеличивается пропорционально корню числа кадров). Теперь складываем 5-й кадр с этой суммой.

И получается что 1-й кадр (суммма 4-х), имеющий в 2 раза лучший сигнал/шум, складывается со вторым (одиночным) с коэфициентом 4:1.
Точно так же можно посчитать для любого числа кадров (9, 25 и т.д.)

И получается, если кадры выровнены по яркости, но имеют разный шум, то вес каждого кадра пропорционален квадрату числа (сигнал/шум).

Если кадры выровнены по шуму, то их вес пропорционален сигналу (яркости объекта).

Софт, умеющий автоматически вычислять уровень полезного сигнала и уровень шума, и складывать согласно им я еще не встречал.
На практике, таким методом я пользовался в MaximDL, сначала выравнивал снимки по шуму (кнопкой Pixel Math), затем оценивал яркость объекта, умножал на число пропорциональное ему, и складывал все кадры методом average.

Если где в расчетах ошибся - пишите, если кто знает софт умеющий так складывать - буду очень благодарен.

[Юрий Торопин]

Достаточно подробно модель уже обсуждалась здесь.

Объединил темы - П.Б.

[Ivan7enych]

Достаточно подробно модель уже обсуждалась здесь.

Спасибо, не видел раньше.

Думаю, стоит-ли програмку написать для автосложения таким методом? Пользователю надо будет только выдельть 2 прямоугольника, один - с фоном (шум оценивать), второй - с объектом (оценивать яркость относительно фона).

[Pilgrim]

   Иван, главный недостаток такого метода - невозможность сложения с сигма-клиппингом кадры, отнормированые по шуму.

   Поэтому Стас в своем исследовании рассматривал его в первую очередь для сложения разнородных серий (например за разные дни съемки), внутри каждой из которых кадры сложены сигма-клиппингом и проблемы горячих пикселов, косм.лучей и треков спутников уже нет. Для этого в каждой серии должно быть достаточное кол-во кадров (хотябы >5). То есть область применения довольно узкая.

   Можно реализовать алгоритм, который будет производить селекцию пикселей по сигме ориентируясь на отнормированные по сигналу кадры, а складывать уже отнормированные по шуму. Но как быть с разным уровнем фона, он ведь почти целиком "отбросится" и вообще какими значениями замещать "дырки". Немного путаница в голове на эту тему, напишу прогу - станет яснее и глядишь, всё окажется преодолимо.

   Вобщем за обсуждением всего этого (+пивом  ) мы со Стасом Вольским просидели до 7 утра крайнего дня Астрофеста. Пришли к тому, что надо изучить проблему поглубже, попробовать написать прогу и оценить результаты, и когда уже будет выработана математика и алгоритм - писать депешу Кристиану Бьюлю с посьбой добавить алгоритм в число стандартных Ирисовских (самопальные проги распространения не получат, да и формат файлов .pic знает только он, а конвертировать туда-сюда ради сложения не удобно).

[Ivan7enych]

   Иван, главный недостаток такого метода - невозможность сложения с сигма-клиппингом.

Ну, сигма-клиппинг и так плохо справляется с разнородными кадрами (например, в процессе съемки легкие облака ползают).

   Поэтому Стас в своем исследовании рассматривал его в первую очередь для сложения разнородных серий (например за разные дни съемки), внутри каждой из которых кадры сложены сигма-клиппингом и проблемы горячих пикселов, косм.лучей и треков спутников уже нет. Для этого в каждой серии должно быть достаточное кол-во кадров (хотябы >5). То есть область применения довольно узкая.

Угу, именно этим я уже и занимаюсь (собираю композитный "L" из L, R, G и B серий), только долго и вручную.

   Можно реализовать алгоритм, который будет производить селекцию пикселей по сигме ориентируясь на отнормированные по сигналу кадры, а складывать уже отнормированные по шуму. Но как быть с разным уровнем фона, он ведь почти целиком "отбросится" и вообще какими значениями замещать "дырки".

Так я и написал про выделение 2-х квадратов, в одном меряем шум и уровень фона, в другом - яркость объекта (как разность среднего между в 2-м квадратом и 1-м). Дальше можно отнормировать все кадры друг к другу по уровню фона и яркости объекта.
Проблема может проявиться, когда фон от кадра к кадру неравномерный (край облака прошел, ветка дерева попала в кадр), квадраты ведь в разных местах.

   Вобщем за обсуждением всего этого (+пивом  ) мы со Стасом Вольским просидели до 7 утра крайнего дня Астрофеста.

Помню, ты же рассказывал.

Пришли к тому, что надо изучить проблему поглубже, попробовать написать прогу и оценить результаты, и когда уже будет выработана математика и алгоритм - писать депешу Кристиану Бьюлю с посьбой добавить алгоритм в число стандартных Ирисовских (самопальные проги распространения не получат, да и формат файлов .pic знает только он, а конвертировать туда-сюда ради сложения не удобно).

Ирис только с pic файлами работает ?
Читать fits-ы не сложно. Дольше GUI к этому делу писать.

А Кристиан возьмется? GUI ириса не способно выделить сразу 2 прямоугольника. Алгоритмы он добавляет, а изменений-улучшений GUI я что-то не видел. Софт до сих пор остается в 1-ю очередь командно-строчным.