[Home] [Lexikon] [Aufgaben] [Tests] [Kurse] [Begleitmaterial] [Hinweise] [Mitwirkende] [Publikationen] | ||
Mathematik-Online-Lexikon: | ||
Gleitpunktarithmetik |
A B C D E F G H I J K L M N O P Q R S T U V W X Y Z | Übersicht |
Das Ergebnis einer Gleitpunktoperation ist das gerundete Ergebnis der exakten Operation:
Dabei muss zur Bestimmung von R der Wert von nicht exakt berechnet werden, sondern nur so genau, dass das Ergebnis der Rundung bestimmt werden kann.
Beispiel:
automatisch erstellt am 19. 8. 2013 |