複数の科学データポイントをグラフ化する場合、ソフトウェアを使用して、最適な曲線をポイントに適合させることができます。ただし、曲線はデータポイントと正確には一致しません。一致しない場合は、データポイントが曲線とどの程度異なるかを測定するために、二乗平均平方根誤差（RMSE）を計算できます。各データポイントについて、RMSE公式は、データポイントの実際の値と最適曲線上のデータポイントの値との差を計算します。
元のデータポイントに対応するxの各値に対して、最適曲線で対応するy値を見つけます。
持っている各データポイントについて、最適曲線上のyの値からyの実際の値を引きます。 yの実際の値と最適曲線上のyの値の差は、残差と呼ばれます。各残差を二乗してから、残差を合計します。
残差の合計をデータポイントの総数で割り、商の平方根を取ります。これにより、二乗平均平方根誤差が得られます。