Den absolutte feilen er lik den absolutte verdien av forskjellen mellom den nøyaktige verdien og den omtrentlige verdien:
ε = | V nøyaktig - V ca. |
Prosentandelen er lik 100% ganger den absolutte feilen delt på den eksakte verdien:
δ = 100% × | V nøyaktig - V ca. | / | V nøyaktig |