Jede physikalische Messung ist mit einem gewissen Fehler behaftet. Bei mehrmaligen Messdurchgängen wird dieser Fehler zusätzlich zum Mittelwert angegeben, so dass man eine Aussage darüber machen kann, wie gut oder schlecht die Messung war und in welchem Intervall der Wert einer weiteren Messung mit hoher Wahrscheinlichkeit liegt. Wie groß der Fehler bei einmalig durchgeführten Versuchen ist, kann man nur abschätzen. Man spricht von einem geschätzten Fehler der Messgröße bzw. von den Fehlergrenzen der Messgeräte. Mit diesen geschätzten Einzelfehlern bestimmt man den "maximalen Fehler" eines Funktionswertes. Aber nach welchen Kriterien wird der Einzelfehler abgeschätzt?
"Grundlage der Fehlerschätzung bilden die Anzeige- und Ablesegenauigkeit.
Als grobe Richtlinie gilt, dass der Fehler bei nicht zu geringem
Skalenstrichabstand etwa die Hälfte des Wertes vom Abstand
zweier Skalenstriche beträgt. Bei relativ weiter Skalenteilung
kann ein Viertel, bei enger Teilung der ganze Wert genommen werden"
([59], 42.5). Auch der Berechnung des Fehlers in DeVe liegt die
Genauigkeit eines einzelnen Messwertes zugrunde. Da man beim
Anklicken eines Objektes am Bildschirm auf das Pixelangebot beschränkt
ist, kann die Genauigkeit also nicht höher sein als 1 Pixel.
Das angeklickte Objekt könnte in der Realität in einem ein
Pixel breiten Intervall gelegen haben, also 0,5 Pixel in horizontaler
und vertikaler Richtung, ohne den Unterschied am Bildschirm wahrnehmen
zu können. Folglich wird der Fehler einer Pixelmessung mit
0,5 Pixel definiert. Wenn die Messung z.B. den Wert
10 Pixel ergeben hat, wird das Messergebnis in der Form 10,0
0,5 Pixel angegeben. Die Eichstrecke in der Realität
muss der Benutzer mit einer selbst gewählten Genauigkeit definieren.
Der Fehler ergibt sich analog. Beispielsweise könnte bei der
Angabe 5,04 cm nicht zwischen 5,035 cm und 5,045 cm unterschieden
worden sein. Der Fehler beträgt hier also
0,05 cm.
Allgemein wurde der Fehler bei Dezimalbrüchen berechnet, indem
alle angegebenen Ziffern auf Null gesetzt wurden und eine 5 angehängt
wurde. Bei der Angabe von ganzen Zahlen wurde der Fehler
0,5 definiert.
Meistens ist aber die gesuchte Größe nicht direkt messbar. Ist sie eine Funktion anderer, messbarer Größen, wird sie aus diesen berechnet. Sobald mehrere fehlerbehaftete Messwerte in eine Formel einfließen, interagieren auch die beiden Fehler miteinander und man muss die Fehlerfortpflanzung berücksichtigen. Bei der Berechnung des Kalibrierungsfaktors wird die Formel
Kalibrierungsfaktor = Eichstrecke in der Realität / Pixelstrecke
oder kürzer
als Funktion zweier Variablen k (e, p) betrachtet. Nach dem Fehlerfortpflanzungsgesetz von Gauß, das auch berücksichtigt, dass sich die Fehler der einzelnen Messgrößen teilweise kompensieren können, muss zunächst von dieser Funktion jeweils die partielle Ableitung nach den einzelnen Variablen gebildet werden. Partielle Ableitung nach e bedeutet z.B., dass die Funktion nach e differenziert und p als Konstante betrachtet wird.