La transmission atmosphérique calculée est une valeur comprise entre 0 et 1, l'échantillonnage dans notre cas est pratiqué soit sur le nombre d'onde soit sur la longueur d'onde.
Intrinsèquement, le calcul ligne par ligne s'effectue en fonction du nombre d'onde (inverse de la longueur d'onde à vide). L'unité par défaut du nombre d'onde
wavnum est le cm-1, résultant de la formule :<br>
wavnum (cm-1) = 10000 / (longueur d'onde à vide en microns).<br>
L'utilisateur a le choix entre trois systèmes d'unités : <br>
- Longueur d'onde à vide (nm).<br>
- Longueur d'onde standard (nm). La longueur d'onde sous vide d'air est transformée en longueur d'onde, à une pression de 760 mm Hg (1 atm) et à une température
de 15 °C. Ce sont généralement les conditions atmosphériques normales utilisées pour la calibration de tous les spectromètres,
depuis que les lignes d'éléments dans les lampes d'étalonnage  (par exemple: Thorium Argon lampes) sont données dans ce système de référence standard.
L'indice de réfraction de l'air en fonction du nombre d'onde est donné par les formules de Edlen (B. Edlen, «The refractive Index of Air», Metrologia Vol. 2, No. 2, 1996.) <br>
- Nombre d'onde (cm-1). Comme pour la longueur d'onde à vide, il n'y a pas besoin de correction de la réfraction.