NoPE
AssessKỹ thuật
Cách tiếp cận không dùng positional embeddings, loại bỏ RoPE khỏi mô hình.
Vì sao ở đây
Xếp vào Assess: 2 bài bằng chứng từ 1 nguồn, chủ yếu là hoạt động mã nguồn mở, 0 bài trong 30 ngày qua. Độ tin cậy 32%.
Bằng chứng (2)
- 8Hacker News·28/7/2026model_releaseKiến trúc Kimi K3 nổi bật với LatentMoE và NoPE
Kimi K3 được giới thiệu như phiên bản sản xuất mở rộng của Kimi Linear, tăng từ 48B lên 2,8T tham số và được cho là mô hình mở có trọng số lớn nhất hiện nay. Kiến trúc này tập trung vào hiệu quả suy luận với các thành phần như LatentMoE, Kimi Delta Attention, residual attention và chuyển hoàn toàn sang NoPE, đồng thời bổ sung hỗ trợ đa phương thức gốc.
- 3Hacker News·9/7/2026open_sourcePhỏng vấn Mitchell Hashimoto về Ghostty và Zig
Bài phỏng vấn xoay quanh việc Mitchell Hashimoto chuyển từ phần mềm hạ tầng sang phát triển Ghostty, một trình giả lập terminal tập trung vào tốc độ, hỗ trợ đa nền tảng và hiệu năng trên desktop gốc. Ông cũng trao đổi về Zig, các hạn chế của hệ sinh thái terminal, và nhu cầu về giao diện có cấu trúc tốt hơn cho ứng dụng terminal và tự động hóa.