TurboFieldfare
AssessCông cụ
Bộ máy suy luận chuyên biệt mã nguồn mở để chạy các mô hình lượng tử hóa lớn trên Mac Apple Silicon.
Vì sao ở đây
Xếp vào Assess: 1 bài bằng chứng từ 1 nguồn, chủ yếu là hoạt động mã nguồn mở, 1 bài trong 30 ngày qua. Độ tin cậy 24%. Bằng chứng còn ít nên xếp thận trọng, chờ thêm tín hiệu.
Bằng chứng (1)
- 7Hacker News·29/7/2026open_sourceBộ máy mã nguồn mở bằng Swift chạy Gemma 4 26B trên 2 GB RAM cho Mac M-series
Một tác giả trên Hacker News giới thiệu TurboFieldfare, bộ máy suy luận mã nguồn mở viết bằng Swift và Metal, có thể chạy mô hình Gemma 4 26B-A4B-IT 4-bit trên Mac M-series với khoảng 2 GB RAM. Hệ thống stream các expert được định tuyến từ SSD trong khi giữ phần dùng chung của mô hình và KV cache trong bộ nhớ; tác giả cho biết đạt 5–6 tok/s trên MacBook Air M2 và 31–35 tok/s trên MacBook Pro M5.