BF16
AssessKỹ thuật
Định dạng số dấu phẩy động 16-bit dùng làm mốc tham chiếu có độ chính xác cao hơn.
Vì sao ở đây
Xếp vào Assess: 1 bài bằng chứng từ 1 nguồn, chủ yếu là tin nghiên cứu, 1 bài trong 30 ngày qua. Độ tin cậy 24%. Bằng chứng còn ít nên xếp thận trọng, chờ thêm tín hiệu.
Bằng chứng (1)
- 6Hacker News·8/9/2026researchBản lượng tử 4-bit của Qwen3.8 27B vẫn giữ chất lượng trên benchmark
So sánh benchmark các mức lượng tử của Qwen3.8 27B cho thấy bản 4-bit Q4_K_M gần như tương đương BF16 trên GPQA Diamond, IFBench và Terminal-Bench 2.1 nhưng dùng ít RAM GPU hơn nhiều. Khi nén quá mạnh, chất lượng giảm đột ngột: bản 1-bit gần như ngẫu nhiên trên GPQA Diamond và còn tệ hơn ở các tác vụ suy luận dài.