FreeToken là một engine phục vụ suy luận MoE theo hướng edge, viết bằng Python, nhằm chạy các mô hình mã nguồn mở rất lớn ngay trên phần cứng người dùng với tốc độ tương tác hiệu quả.
Đăng nhập để đọc bản tóm tắt dành cho quản lý.
Đăng nhậpDo AI giải thích · dựa trên README của từng kho