Sqlserver
 sql >> Cơ Sở Dữ Liệu >  >> RDS >> Sqlserver

Máy chủ SQL:Độ chính xác / Tỷ lệ thập phân đang mang lại kết quả kỳ lạ

Tài liệu hơi không đầy đủ về sự kỳ diệu của giá trị 6 và khi nào thì áp dụng max nhưng đây là bảng các phát hiện của tôi, dựa trên tài liệu đó.

Như nó nói, các công thức để chia là:

Và, như chính bạn nêu bật, sau đó chúng tôi có chú thích cuối trang:

Vì vậy, đây là những gì tôi đã tạo trong bảng tính của mình:

p1 s1 p2 s2 prInit srInit prOver prAdjusted srAdjusted
38 16 38 16 93     55     55     38         6
28 16 28 16 73     45     35     38         10
29 16 29 16 75     46     37     38         9

Vì vậy, tôi đang sử dụng pr sr để chỉ ra độ chính xác và tỷ lệ của kết quả. prInit srInit công thức chính xác là bản đồ diễn đàn từ tài liệu. Như chúng ta có thể thấy, trong cả 3 trường hợp, độ chính xác của kết quả lớn hơn rất nhiều so với 38 và do đó, chú thích được áp dụng. prOver chỉ là max (0, prInit - 38) - chúng tôi phải điều chỉnh độ chính xác bao nhiêu nếu áp dụng chú thích. prĐiều chỉnh chỉ là prInit - prOver . Trong cả ba trường hợp, chúng ta có thể thấy rằng độ chính xác cuối cùng của kết quả là 38 .

Nếu tôi áp dụng cùng một hệ số điều chỉnh đối với thang đo thì tôi sẽ nhận được kết quả là 0 , 10 9 . Nhưng chúng tôi có thể thấy rằng kết quả của bạn cho (38,16) trường hợp có thang điểm 6 . Vì vậy, tôi tin rằng đó là nơi max (6, ... một phần của tài liệu thực sự áp dụng. Vì vậy, công thức cuối cùng của tôi cho srAdjusted max (6, srInit-prOver) và bây giờ Điều chỉnh cuối cùng của tôi giá trị xuất hiện phù hợp với kết quả của bạn.

Và, tất nhiên, nếu chúng tôi tham khảo tài liệu về decimal , chúng ta có thể thấy rằng mặc định độ chính xác và tỷ lệ, nếu bạn không chỉ định chúng, là (18,0) , vì vậy đây là hàng khi bạn không chỉ định độ chính xác và tỷ lệ:

p1 s1 p2 s2 prInit srInit prOver prAdjusted srAdjusted
18 0  18 0  37     19     0      37         19



  1. Database
  2.   
  3. Mysql
  4.   
  5. Oracle
  6.   
  7. Sqlserver
  8.   
  9. PostgreSQL
  10.   
  11. Access
  12.   
  13. SQLite
  14.   
  15. MariaDB
  1. Lỗi khi mở trình xem CrystalReport

  2. Làm cách nào để tạo một ràng buộc duy nhất trên cột của tôi (SQL Server 2008 R2)?

  3. Ngoại lệ 'Đầu vào được chỉ định không đại diện cho trường hợp địa lý hợp lệ' khi sử dụng SqlGeographyBuilder

  4. Kết hợp (nối) ngày và giờ thành một ngày giờ

  5. Bao lâu thì các chỉ mục nên được xây dựng lại trong cơ sở dữ liệu SQL Server của chúng tôi?