Mesh LLM
AssessNền tảng
Nền tảng suy luận AI phân tán tại chỗ, gom GPU và bộ nhớ từ nhiều máy.
Vì sao ở đây
Xếp vào Assess: 1 bài bằng chứng từ 1 nguồn, chủ yếu là hoạt động mã nguồn mở, 0 bài trong 30 ngày qua. Độ tin cậy 24%. Bằng chứng còn ít nên xếp thận trọng, chờ thêm tín hiệu.
Bằng chứng (1)
- 7Hacker News·11/7/2026open_sourceMesh LLM đưa suy luận AI phân tán cục bộ lên iroh
Mesh LLM là hệ thống suy luận AI phân tán cho phép chạy các mô hình tương thích OpenAI trên nhiều máy và GPU như một cụm thống nhất. Hệ thống có thể chạy cục bộ, chuyển yêu cầu sang máy ngang hàng hoặc chia nhỏ mô hình lớn qua nhiều nút bằng iroh cho kết nối và truyền tải peer-to-peer.