Kiedy wykreślisz kilka punktów danych naukowych, możesz za pomocą oprogramowania dopasować krzywą najlepiej dopasowaną do swoich punktów. Jednak krzywa nie będzie dokładnie pasować do twoich punktów danych, a jeśli nie, możesz obliczyć błąd pierwiastkowy kwadratowy (RMSE), aby ocenić stopień, w jakim twoje punkty danych różnią się od twojej krzywej. Dla każdego punktu danych formuła RMSE oblicza różnicę między rzeczywistą wartością punktu danych a wartością punktu danych na krzywej najlepiej dopasowanej.
Znajdź odpowiednią wartość y na swojej krzywej najlepiej dopasowanej dla każdej wartości x odpowiadającej oryginalnym punktom danych.
Odejmij rzeczywistą wartość y od wartości y na najlepszej krzywej dla każdego posiadanego punktu danych. Różnica między rzeczywistą wartością y a wartością y na twojej krzywej najlepiej dopasowanej nazywa się wartością resztkową. Wyrównaj każdą resztę, a następnie zsumuj swoje resztki.
Podziel sumę reszt przez całkowitą liczbę posiadanych punktów danych i oblicz pierwiastek kwadratowy z ilorazu. Daje to średni błąd kwadratowy pierwiastka.