NVIDIA B200
AssessNền tảng
GPU trung tâm dữ liệu của NVIDIA được dùng làm phần cứng suy luận trong bài viết.
Vì sao ở đây
Xếp vào Assess: 2 bài bằng chứng từ 1 nguồn, chủ yếu là đột phá nghiên cứu, 1 bài trong 30 ngày qua. Độ tin cậy 34%.
Bằng chứng (2)
- 7Hacker News·2/8/2026researchChạy Kimi K3 trên AMD MI355X với hiệu năng trên chi phí tốt hơn B300
Bài viết công bố kết quả benchmark khi phục vụ mô hình Kimi K3 trên GPU AMD MI355X, cho rằng hiệu năng trên chi phí tốt hơn Nvidia B300 trong cấu hình này. Bài cũng mô tả một lỗi phía ROCm trong hạ tầng giải mã suy đoán và cho biết cần một chỉnh sửa nhỏ bằng PyTorch để ổn định scheduler.
- 7Hacker News·30/6/2026breakthroughMoondream công bố giải mã theo đường ống để giảm thời gian GPU nhàn rỗi
Moondream mô tả cách công cụ suy luận Photon giảm “GPU bubble” trong quá trình giải mã tự hồi quy bằng cách chồng lấp phần việc của CPU với các lượt chạy suy luận trên GPU. Cách tiếp cận này dùng giải mã theo đường ống, bộ đệm ping-pong và trì hoãn một số bước lấy mẫu/dọn dẹp, giúp tăng thông lượng giải mã; bài viết cho biết đạt suy luận VLM gần thời gian thực và cao hơn tới 35% trên phần cứng NVIDIA B200.