Sqlserver
 sql >> база данни >  >> RDS >> Sqlserver

загуба на мащаб при извършване на изчисление

Правилата за decimal към decimal преобразуване за умножение и деление са описани в BOL .

но оставя неуточнено как точно се извършва такова съкращаване. Това е документирано тук . Въпреки това понякога е по-лесно просто да използвате проба-грешка!

Следните междинни отливки ви дават желания резултат. Можете ли да живеете с тях?

DECLARE @var NUMERIC(19,8)
DECLARE @a NUMERIC(19,8)
DECLARE @b NUMERIC(19,8)

SET @var = -413.72063274
SET @a   = 651.00000000
SET @b   = 1000.00000000

DECLARE @v SQL_VARIANT 
SET @v =  CAST(@a/@b AS NUMERIC(24,10))* CAST(@var AS NUMERIC(23,8))

SELECT    CAST(SQL_VARIANT_PROPERTY(@v, 'BaseType') AS VARCHAR(30)) AS BaseType,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Precision') AS INT) AS PRECISION,    
          CAST(SQL_VARIANT_PROPERTY(@v, 'Scale') AS INT) AS Scale


  1. Database
  2.   
  3. Mysql
  4.   
  5. Oracle
  6.   
  7. Sqlserver
  8.   
  9. PostgreSQL
  10.   
  11. Access
  12.   
  13. SQLite
  14.   
  15. MariaDB
  1. изчисляване на среден рейтинг в sql сървър

  2. как да получите достъп до localDB от Windows Service

  3. INSERT изтрити стойности в таблица преди DELETE с DELETE TRIGGER

  4. Актуализирайте един ред с t-sql

  5. Може ли някой да обясни разликата между две заявки?