Mamba
AssessKỹ thuật
Một hướng mô hình trạng thái được thiết kế để xử lý chuỗi rất dài hiệu quả.
Vì sao ở đây
Xếp vào Assess: 7 bài bằng chứng từ 5 nguồn, chủ yếu là phát hành mô hình, 1 bài trong 30 ngày qua. Độ tin cậy 82%.
Bằng chứng (7)
- 6Hugging Face Blog·6/10/2026model_releaseFalcon-Emirati: LLM được tinh chỉnh cho tiếng Ả Rập Emirati
Hugging Face giới thiệu Falcon-Emirati-7B, một mô hình chuyên biệt cho phương ngữ được xây dựng trên Falcon-H1-Arabic để hiểu và tạo tiếng Ả Rập Emirati tốt hơn, bao gồm từ vựng địa phương, giọng điệu và bối cảnh văn hóa. Bài viết cũng nêu các thách thức khi điều chỉnh một mô hình tiếng Ả Rập tổng quát cho một phương ngữ nói có ít dữ liệu viết và phụ thuộc nhiều vào thành ngữ, tục ngữ và sắc thái văn hóa.
- 7InfoQ·29/8/2026researchFreeToken cải thiện suy luận MoE trên phần cứng phổ thông
Các nhà nghiên cứu từ UC Berkeley và MIT đã giới thiệu FreeToken, một bộ máy suy luận mã nguồn mở nhằm nâng cao hiệu quả của mô hình Mixture-of-Experts trên phần cứng phổ thông. Giải pháp này dùng cơ chế lập lịch động và tối ưu quản lý trọng số để tăng tốc giải mã, qua đó hỗ trợ các hệ thống suy luận tự triển khai ở biên.
- 8Hacker News·19/8/2026breakthroughOrnith-1.5 thúc đẩy mô hình mã nguồn mở tự cải thiện
Ornith-1.5 là một họ mô hình mở mới được xây dựng quanh vòng lặp tự cải thiện đầu-cuối, trong đó mô hình tự tạo nhiệm vụ, scaffold và các lượt giải bài để phục vụ học tăng cường. Bản phát hành gồm các biến thể 397B MoE, 35B MoE và 9B dense, với kết quả benchmark được công bố cho thấy hiệu năng ngang hoặc vượt một số mô hình mã nguồn mở và thương mại lớn hơn trên các tác vụ suy luận, lập trình và tác vụ tác tử.
- 8Simon Willison·27/7/2026model_releaseMoonshot công bố trọng số mở của Kimi K3, nhưng việc triển khai bị giới hạn
Moonshot AI đã phát hành trọng số mở của Kimi K3 trên Hugging Face, đưa một trong những mô hình ngôn ngữ lớn nhất của hãng đến tay cộng đồng để tự triển khai. Mô hình hướng tới tác vụ lập trình dài hạn và xử lý tri thức đầu-cuối, nhưng kiến trúc MoE 2,8 nghìn tỷ tham số cùng yêu cầu phần cứng rất lớn khiến chỉ một số ít tổ chức có thể tự vận hành.
- 7Hacker News·16/7/2026model_releaseLiên minh Đức phát hành Soofi S, mô hình mở 30 tỷ tham số
Một liên minh nghiên cứu của Đức do KI Bundesverband điều phối đã phát hành Soofi S 30B-A3B, một mô hình ngôn ngữ mở được huấn luyện trên Industrial AI Cloud của Deutsche Telekom. Mô hình này dùng kiến trúc lai Mamba-Transformer kiểu mixture-of-experts và được báo cáo là vượt các mô hình mở hoàn toàn khác trên các benchmark tiếng Anh, tiếng Đức và lập trình, đồng thời duy trì thông lượng cao với ngữ cảnh dài.
- 8Hugging Face Blog·28/4/2026model_releaseNVIDIA ra mắt Nemotron 3 Nano Omni cho AI đa phương thức ngữ cảnh dài
NVIDIA giới thiệu Nemotron 3 Nano Omni, một mô hình đa phương thức toàn diện cho phân tích tài liệu, nhận dạng giọng nói, hiểu video-âm thanh dài và tác vụ sử dụng máy tính theo tác nhân. Mô hình cho thấy kết quả nổi bật trên các benchmark về tài liệu, video, âm thanh và thoại, đồng thời đạt thông lượng và hiệu quả cao hơn so với các mô hình đa phương thức mở tương đương.
- 8Hugging Face Blog·5/1/2026model_releaseHugging Face ra mắt Falcon-H1-Arabic
Hugging Face công bố Falcon-H1-Arabic, một họ mô hình ngôn ngữ tiếng Ả Rập mới được xây dựng trên kiến trúc lai Mamba-Transformer. Bộ mô hình gồm các phiên bản 3B, 7B và 34B với ngữ cảnh mở rộng մինչև 256K token, hướng tới cải thiện khả năng hiểu ngữ cảnh dài, xử lý phương ngữ và suy luận trong NLP tiếng Ả Rập.