Kimi Linear
AssessNền tảng
Kiến trúc mô hình Kimi trước đó, là nền tảng để Kimi K3 mở rộng.
Vì sao ở đây
Xếp vào Assess: 2 bài bằng chứng từ 1 nguồn, chủ yếu là phát hành mô hình, 2 bài trong 30 ngày qua. Độ tin cậy 30%. Bằng chứng còn ít nên xếp thận trọng, chờ thêm tín hiệu.
Bằng chứng (2)
- 8Hacker News·28/7/2026model_releaseKiến trúc Kimi K3 nổi bật với LatentMoE và NoPE
Kimi K3 được giới thiệu như phiên bản sản xuất mở rộng của Kimi Linear, tăng từ 48B lên 2,8T tham số và được cho là mô hình mở có trọng số lớn nhất hiện nay. Kiến trúc này tập trung vào hiệu quả suy luận với các thành phần như LatentMoE, Kimi Delta Attention, residual attention và chuyển hoàn toàn sang NoPE, đồng thời bổ sung hỗ trợ đa phương thức gốc.
- 7Hacker News·28/7/2026researchKimi Linear: Kiến trúc attention hiệu quả và giàu biểu đạt
Kimi Linear là một bài nghiên cứu mô tả một kiến trúc attention mới nhằm tăng hiệu quả nhưng vẫn giữ được khả năng biểu đạt trong các mô hình ngôn ngữ lớn. Đây là một đóng góp nghiên cứu AI/ML hơn là một sản phẩm, và đã thu hút nhiều thảo luận trên Hacker News.