Magnitude
AssessCông cụ
Bộ suy luận mã nguồn mở để chạy tác tử trên phần cứng cá nhân và máy trạm.
Vì sao ở đây
Xếp vào Assess: 1 bài bằng chứng từ 1 nguồn, chủ yếu là ra mắt sản phẩm, 1 bài trong 30 ngày qua. Độ tin cậy 24%. Bằng chứng còn ít nên xếp thận trọng, chờ thêm tín hiệu.
Bằng chứng (1)
- 6Hacker News·30/9/2026product_launchLaunch HN: Magnitude, bộ suy luận tự tối ưu cho tác tử chạy cục bộ
Magnitude là một bộ suy luận mã nguồn mở mới ra mắt dành cho tác tử chạy cục bộ, có khả năng tự tinh chỉnh trên phần cứng mục tiêu để tăng tốc độ và hiệu quả bộ nhớ. Nhóm phát triển cho biết công cụ này chạy trên Mac, Linux và Windows, đồng thời công bố kết quả benchmark vượt llama.cpp về tốc độ decode và prefill trên phần cứng được thử nghiệm.