AMD Instinct MI355X
AssessNền tảng
GPU trung tâm dữ liệu của AMD dành cho khối lượng công việc AI và suy luận hiệu năng cao.
Vì sao ở đây
Xếp vào Assess: 2 bài bằng chứng từ 1 nguồn, chủ yếu là tin nghiên cứu, 1 bài trong 30 ngày qua. Độ tin cậy 33%.
Bằng chứng (2)
- 7Hacker News·2/8/2026researchChạy Kimi K3 trên AMD MI355X với hiệu năng trên chi phí tốt hơn B300
Bài viết công bố kết quả benchmark khi phục vụ mô hình Kimi K3 trên GPU AMD MI355X, cho rằng hiệu năng trên chi phí tốt hơn Nvidia B300 trong cấu hình này. Bài cũng mô tả một lỗi phía ROCm trong hạ tầng giải mã suy đoán và cho biết cần một chỉnh sửa nhỏ bằng PyTorch để ổn định scheduler.
- 6Hacker News·3/7/2026researchWafer công bố suy luận GLM5.2 nhanh hơn trên AMD MI355X
Wafer cho biết đã chạy GLM5.2 trên AMD MI355X đạt 2626 token/giây/node ở mức 2,4 RPS, đồng thời khẳng định chi phí triển khai thấp hơn hơn 2 lần so với các lựa chọn dựa trên Blackwell. Bài viết cũng mô tả việc dùng lượng tử hóa MXFP4 với AMD Quark và phục vụ mô hình bằng sglang trên ROCm sau khi khắc phục hỗ trợ giải mã suy đoán.