в данном случае нет понятия "увеличение", а есть понятие "масштаб" изображения и поле зрения камеры. Масштаб - это угловой размер в пространстве предметов, приходящийся на 1 пиксел изображения, а поле зрения - угловой размер, приходящийся на всю матрицу. Вот это и определяйте.
Угловое увеличение определяется как отношение угловых размеров (тангенсов углов) объекта, наблюдаемого без телескопа и в телескоп. Если Вы наблюдаете объект на экране монитора, то в тогда в угловое увеличение войдет фактор расстояния до монитора и размера картинки на мониторе, что не имеет отношение к телескопу.