sql >> Database teknologi >  >> RDS >> Mysql

mysql decimal og tinyint multiplikationspræcision

Jeg tror, ​​at der ikke er noget præcist tab, når de ganges decimal med heltal. Se eksempler på præcisionsmatematik . Jeg lavede også et lille eksperiment for at se forskellen mellem flydende komma og decimal:

SELECT .1E0 * .1E0, 
       .1 * .1, 
       (.1E0 * .1E0) * 10, 
       (.1 * .1) * 10

Udgangen er

0.010000000000000002          << .1E0 * .1E0
0.01                          << .1 * .1
0.10000000000000002           << (.1E0 * .1E0) * 10
0.10                          << (.1 * .1) * 10


  1. Sådan tilføjes linjenumre i SQL Server Management Studio ( SSMS) - SQL Server / TSQL vejledning del 11

  2. Hent typespecifikationstegn fra MySQLi-feltet

  3. Sådan får du den næsthøjeste til laveste værdipost baseret på rækkefølge efter felt i PostgreSQL

  4. Hvad er fordele og ulemper ved at udføre beregninger i sql vs. i din ansøgning