Petals

Assess

Công cụ

Hệ thống ngang hàng để suy luận và tinh chỉnh mô hình ngôn ngữ lớn theo kiểu phân tán.

Vì sao ở đây

Xếp vào Assess: 1 bài bằng chứng từ 1 nguồn, chủ yếu là hoạt động mã nguồn mở, 1 bài trong 30 ngày qua. Độ tin cậy 24%. Bằng chứng còn ít nên xếp thận trọng, chờ thêm tín hiệu.

Bằng chứng (1)

7Hacker News·23/7/2026open_source
Petals cho phép chạy mô hình ngôn ngữ lớn tại nhà
Petals là một hệ thống suy luận và tinh chỉnh phân tán, cho phép người dùng chạy một phần mô hình ngôn ngữ lớn trên GPU phổ thông rồi chia sẻ phần còn lại qua mạng ngang hàng theo kiểu BitTorrent. Hệ thống hỗ trợ các mô hình như Llama 3.1, Mixtral, Falcon và BLOOM, đồng thời cung cấp trải nghiệm gần giống API nhưng vẫn cho phép tùy biến sâu ở mức mô hình.