Llama 3.1
TrialNgôn ngữ & Framework
Họ mô hình ngôn ngữ lớn mã nguồn mở từ Meta.
Vì sao ở đây
Xếp vào Trial: 5 bài bằng chứng từ 4 nguồn, chủ yếu là hoạt động mã nguồn mở, 2 bài trong 30 ngày qua. Độ tin cậy 66%.
Bằng chứng (5)
- 8The New Stack·28/9/2026product_launchMeta ra mắt nền tảng AI doanh nghiệp do cựu CEO MongoDB dẫn dắt
Meta công bố Meta Enterprise Platform, mảng kinh doanh mới nhằm đưa các mô hình và tác tử AI của mình đến doanh nghiệp và nhà phát triển, đồng thời bổ nhiệm cựu CEO MongoDB CJ Desai phụ trách. Động thái này cho thấy Meta đang đẩy mạnh vào AI doanh nghiệp, nhưng công ty هنوز chưa làm rõ giá bán, thời điểm phát hành hay việc Llama có nằm trong gói này hay không.
- 7Hugging Face Blog·21/9/2026researchCắt tỉa LLM bằng cách ánh xạ việc loại bỏ khối sang tối ưu hóa Ising
Hugging Face giới thiệu một hướng nghiên cứu xem việc loại bỏ các transformer block trong mô hình ngôn ngữ lớn như một bài toán tối ưu nhị phân có ràng buộc. Khi ánh xạ việc chọn block sang mô hình Ising glass, phương pháp này khai thác tương tác giữa các block để dự đoán chất lượng cắt tỉa và báo cáo kết quả mạnh trên Llama-3.3-70B-Instruct ở mức nén 50%.
- 6Simon Willison·16/8/2026model_releaseQwen 3.8 27B mặc định suy luận quá sâu
Simon Willison cho biết mô hình vision mã nguồn mở Qwen 3.8 27B của Alibaba có chất lượng tốt, nhưng mức suy luận mặc định xhigh khiến đầu ra rất chậm và tốn token khi chạy trên phần cứng cá nhân. Ông nhận thấy giảm hoặc tắt mức suy luận giúp mô hình dùng thực tế hơn nhiều, trong khi bản Qwen 3.8 2.4T-A95B lớn hơn cũng tạo ra một SVG chất lượng cao.
- 8Hacker News·6/8/2026fundingAMD mua lại Taalas để phát triển chip suy luận AI tích hợp mô hình vào silicon
AMD đã mua lại startup Taalas tại Toronto, đơn vị thiết kế các chip chuyên biệt cho từng mô hình bằng cách khắc trọng số mô hình trực tiếp lên silicon để tăng tốc suy luận AI. Các thử nghiệm ban đầu với chip HC1 được cho là đạt 16.960 token mỗi giây, và AMD có thể tích hợp công nghệ này vào hệ thống AI quy mô rack cùng với GPU Instinct.
- 7Hacker News·23/7/2026open_sourcePetals cho phép chạy mô hình ngôn ngữ lớn tại nhà
Petals là một hệ thống suy luận và tinh chỉnh phân tán, cho phép người dùng chạy một phần mô hình ngôn ngữ lớn trên GPU phổ thông rồi chia sẻ phần còn lại qua mạng ngang hàng theo kiểu BitTorrent. Hệ thống hỗ trợ các mô hình như Llama 3.1, Mixtral, Falcon và BLOOM, đồng thời cung cấp trải nghiệm gần giống API nhưng vẫn cho phép tùy biến sâu ở mức mô hình.