IT <code> - Tag precision [Câu hỏi]

1311
hữu ích
21trả lời
2.4m xem

Giới hạn số float đến hai điểm thập phân?

Tôi muốn ađược làm tròn đến 13,95 . >>> a 13.949999999999999 >>> round(a, 2) 13.949999999999999 Các roundchức năng không hoạt động theo cách tôi mong đợi.
129
hữu ích
10trả lời
233k xem

Sự khác biệt giữa một hoạt động điểm nổi chính xác đơn và chính xác kép là gì?

Sự khác biệt giữa một hoạt động điểm nổi chính xác duy nhất và hoạt động nổi chính xác kép là gì? Tôi đặc biệt quan tâm đến các điều khoản thực tế liên quan đến máy chơi game video. Ví dụ, Nintendo 64 có bộ xử lý 64 bit…
355
hữu ích
11trả lời
885k xem

Sự khác biệt giữa float và double là gì?

Tôi đã đọc về sự khác biệt giữa độ chính xác kép và độ chính xác đơn. Tuy nhiên, trong hầu hết các trường hợp floatvà doubledường như có thể thay thế cho nhau, tức là sử dụng cái này hay cái kia dường như không ảnh hưởng đến…
804
hữu ích
6trả lời
395k xem

Thập phân so với gấp đôi! - Tôi nên sử dụng cái nào và khi nào? [bản sao]?

Câu hỏi này đã có câu trả lời ở đây: Khi nào tôi nên sử dụng gấp đôi thay vì thập phân? 12 câu trả lời Tôi…
127
hữu ích
20trả lời
171k xem

Giữ lại độ chính xác với gấp đôi trong Java?

public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } Các mã trên…
68
hữu ích
2trả lời
27k xem

Trong MATLAB, các biến có thực sự chính xác kép theo mặc định không?

Câu hỏi này nảy sinh từ một điều kỳ lạ mà tôi nhận thấy sau khi điều tra thêm câu hỏi này ... Tôi luôn hiểu các biến MATLAB là chính xác kép theo mặc định. Vì vậy, nếu tôi làm điều gì đó như khai báo một biến có 20 chữ số…
248
hữu ích
9trả lời
254k xem

JavaScript hiển thị nổi đến 2 chữ số thập phân?

Tôi muốn hiển thị một số đến 2 chữ số thập phân. Tôi nghĩ rằng tôi có thể sử dụng toPrecision(2)trong JavaScript. Tuy nhiên, nếu số lượng là 0.05, tôi nhận được 0.0500. Tôi muốn nó vẫn như cũ. Xem nó trên JSbin…
288
hữu ích
10trả lời
376k xem

Làm cách nào để in một giá trị kép với độ chính xác đầy đủ bằng cout?

Vì vậy, tôi đã nhận được câu trả lời cho câu hỏi cuối cùng của mình (tôi không biết tại sao tôi không nghĩ về điều đó). Tôi đã in một doublecách sử dụng coutđã được làm tròn khi tôi không mong đợi nó. Làm thế nào tôi có thể…
74
hữu ích
8trả lời
34k xem

PHP - Số chính xác nổi [trùng lặp]?

Câu hỏi này đã có câu trả lời ở đây: Là toán nổi điểm bị hỏng? 29 câu trả lời $a = '35'; $b = '-34.99'; echo…
68
hữu ích
7trả lời
70k xem

Phạm vi số nào có thể được biểu diễn trong các hệ thống IEEE-754 16, 32 và 64 bit?

Tôi biết một chút về cách các số dấu phẩy động được thể hiện, nhưng chưa đủ, tôi sợ. Câu hỏi chung là: Đối với độ chính xác nhất định (đối với mục đích của tôi, số vị trí thập phân chính xác trong cơ sở 10), phạm vi…
89
hữu ích
6trả lời
8.7k xem

Có bao nhiêu số nhân đôi giữa 0,0 và 1,0?

Đây là điều mà trong tâm trí tôi đã nhiều năm nay, nhưng tôi chưa bao giờ dành thời gian để hỏi trước đó. Nhiều trình tạo số ngẫu nhiên (giả) tạo ra một số ngẫu nhiên trong khoảng từ 0,0 đến 1,0. Về mặt toán học có các số…
149
hữu ích
10trả lời
13k xem

Toán học dấu phẩy động có nhất quán trong C # không? Có thể được không?

Không, đây không phải là câu hỏi "Tại sao (1 / 3.0) * 3! = 1" khác . Gần đây tôi đã đọc về các điểm nổi rất nhiều; cụ thể, cách tính toán giống nhau có thể cho kết quả khác nhau trên các kiến ​​trúc hoặc cài đặt tối ưu hóa…
145
hữu ích
2trả lời
13k xem

Tại sao thêm 0,1 nhiều lần vẫn không mất?

Tôi biết 0.1số thập phân không thể được biểu diễn chính xác bằng số nhị phân hữu hạn ( giải thích ), do đó double n = 0.1sẽ mất một số độ chính xác và sẽ không chính xác 0.1. Mặt khác 0.5có thể được đại diện chính xác bởi vì…
84
hữu ích
2trả lời
6.1k xem

Tại sao 199,96 - 0 = 200 trong SQL?

Tôi có một số khách hàng nhận được hóa đơn kỳ lạ. Tôi đã có thể cô lập vấn đề cốt lõi: SELECT 199.96 - (0.0 * FLOOR(CAST(1.0 AS DECIMAL(19, 4)) * CAST(199.96 AS DECIMAL(19, 4)))) -- 200 what the? SELECT 199.96 - (0.0 *…
83
hữu ích
9trả lời
61k xem

Có an toàn để kiểm tra các giá trị dấu phẩy động cho đẳng thức bằng 0 không?

Tôi biết bạn không thể dựa vào sự bình đẳng giữa các giá trị loại kép hoặc thập phân thông thường, nhưng tôi tự hỏi liệu 0 có phải là trường hợp đặc biệt không. Mặc dù tôi có thể hiểu được các quy định trong khoảng từ…

15 30 50 mỗi trang