А как определяют в оптической промішленности RMS поверхностей?
Cпециализированной программой обсчета формы поверхности по интерферограмме Фотографируют интерферограмму детали ,потом ее вводят в компьютер и обсчитывают. Или на таких специализированных комплексах как ZYGO
http://www.zygo.com/