Sqlserver
 sql >> база данни >  >> RDS >> Sqlserver

Защо точността намалява при умножаване на сумата на друго число

Агрегиране на numeric(18, 8) с SUM води до типа данни numeric(38, 8) .

Как се изчислява полученият тип данни при умножаване на нещо с число може да се намери тук:Precision , мащаб и дължина (Transact-SQL)

Типът данни за вашата константа -1 е numeric(1, 0)

Точността е p1 + p2 + 1 =40
Мащабът е s1 + s2 =8

Максималната точност е 38 и това ви оставя с numeric(38, 6) .

Прочетете повече за това защо е numeric(38, 6) тук:Умножение и деление с числа



  1. Database
  2.   
  3. Mysql
  4.   
  5. Oracle
  6.   
  7. Sqlserver
  8.   
  9. PostgreSQL
  10.   
  11. Access
  12.   
  13. SQLite
  14.   
  15. MariaDB
  1. Driver.getConnection виси с помощта на драйвер на SQLServer и Java 1.6.0_29

  2. Код за валидиране на SQL скриптове

  3. Как да премахна акцентите и всички знаци <> a..z в sql-сървър?

  4. Прочетете .NET конфигурацията от базата данни

  5. Известия за заявки на SQL Server в JAVA