Unsloth

Bằng chứng (4)

• 6Hacker News·8/9/2026research
  Bản lượng tử 4-bit của Qwen3.8 27B vẫn giữ chất lượng trên benchmark

  So sánh benchmark các mức lượng tử của Qwen3.8 27B cho thấy bản 4-bit Q4_K_M gần như tương đương BF16 trên GPQA Diamond, IFBench và Terminal-Bench 2.1 nhưng dùng ít RAM GPU hơn nhiều. Khi nén quá mạnh, chất lượng giảm đột ngột: bản 1-bit gần như ngẫu nhiên trên GPQA Diamond và còn tệ hơn ở các tác vụ suy luận dài.

• 7Hacker News·19/8/2026model_release
  Unsloth phát hành các bản lượng tử hóa GGUF Dynamic v3.0 cho Qwen3.8-27B

  Unsloth đã phát hành các bản lượng tử hóa GGUF Dynamic v3.0 cho Qwen3.8-27B, với tuyên bố đạt độ chính xác top-1% tốt hơn các nhà cung cấp khác ở cùng kích thước mô hình. Bản cập nhật cải thiện hiệu chỉnh dữ liệu, chọn lớp và các kỹ thuật lượng tử hóa hậu huấn luyện, đồng thời tương thích với các công cụ suy luận như llama.cpp và Unsloth Desktop.

• 7NVIDIA GenAI·11/8/2026model_release
  NVIDIA giới thiệu các mô hình AI cục bộ mã nguồn mở và công cụ tác tử

  NVIDIA đã điểm lại làn sóng mô hình mở, công cụ suy luận cục bộ và các bản phát hành tập trung vào tác tử từ các đối tác và cộng đồng mã nguồn mở trong chuỗi blog Local AI. Bản cập nhật bao gồm các mô hình như Cosmos 3 Edge, MiniMax-H3, Laguna S 2.1, DeepSeek-V4-Flash, Inkling-Small và Wan-Animate-2, cùng Unsloth Desktop và các checkpoint tối ưu cho NVIDIA để chạy trên phần cứng RTX, DGX Spark, Jetson và DGX Station.

• 5Hugging Face Blog·20/2/2026product_launch
  Huấn luyện mô hình AI nhỏ miễn phí với Unsloth và Hugging Face Jobs

  Hugging Face giới thiệu quy trình tinh chỉnh mô hình nhỏ LFM2.5-1.2B-Instruct bằng Unsloth trên Hugging Face Jobs, đồng thời cung cấp credit miễn phí cho người dùng đủ điều kiện. Bài viết nhấn mạnh tốc độ huấn luyện nhanh hơn, dùng ít VRAM hơn và thiết lập qua các tác nhân lập trình như Claude Code và Codex.