sql >> Database teknologi >  >> RDS >> Sqlserver

Ægte vs. flydende point vs. penge

Tag et kig på, hvad enhver computerforsker bør vide om flydende kommaaritmetik.

Flydende kommatal i computere repræsenterer ikke nøjagtigt decimalbrøker. I stedet repræsenterer de binære brøker. De fleste brøktal har ikke en nøjagtig repræsentation som en binær brøk, så der er en vis afrunding i gang. Når en sådan afrundet binær brøk oversættes tilbage til en decimalbrøk, får du den effekt, du beskriver.

Til lagring af pengeværdier giver SQL-databaser normalt en DECIMAL-type, der gemmer nøjagtige decimaltal. Dette format er lidt mindre effektivt for computere at håndtere, men det er ret nyttigt, når du vil undgå decimalafrundingsfejl.



  1. PostgreSQL streaming replikering vs logisk replikering

  2. Hvordan kan jeg tælle antallet af ord i en streng i Oracle?

  3. Sådan fungerer Acos() i PostgreSQL

  4. SQL Server COALESCE() Forklaret