sql >> Database teknologi >  >> RDS >> Sqlserver

SQL Server Float-datatypeberegning vs. decimal

Float er nøjagtig til 15 signifikante tal kun (i SQL Server).

Dette demonstreres af 1.52415693411713 E+17 hvor 1.52415693411713 (15 cifre) er så præcis, som du kan blive. Den sidste 020... efter 152415693411713 med STR er opfundet er opløsningen af ​​flydende komma

For at bevare præcisionen, brug ikke float. Så enkelt er det. CAST til decimal, hvis du vil til beregning, men hvis du CAST tilbage for at flyde er begrænset til 15 cifre

Se "Hvad enhver computerforsker bør vide om flydende punktaritmetik "



  1. Hvorfor understøtter MySQL's MyISAM-motor ikke fremmednøgler?

  2. Kan ikke returnere resultater fra lagret procedure ved hjælp af Python-markøren

  3. Slet alle tabeller, hvis navne begynder med en bestemt streng

  4. Python MySQLdb undtagelser