Model distillation
TrialKỹ thuật
Kỹ thuật chuyển năng lực từ một mô hình sang mô hình khác bằng cách truy vấn hoặc huấn luyện trên đầu ra.
Vì sao ở đây
Xếp vào Trial: 8 bài bằng chứng từ 5 nguồn, chủ yếu là tin pháp lý, 3 bài trong 30 ngày qua. Độ tin cậy 78%.
Bằng chứng (8)
- 8OpenAI Blog·30/9/2026securityOpenAI triệt phá chiến dịch chưng cất mô hình có phối hợp
OpenAI cho biết họ đã ngăn chặn một chiến dịch có phối hợp nhằm trích xuất năng lực suy luận được bảo vệ của mô hình bằng kỹ thuật chưng cất đối kháng. Công ty cũng đang tăng cường các biện pháp phòng thủ để giảm rủi ro từ những nỗ lực tương tự trong tương lai.
- 7Hacker News·14/9/2026regulationCEO Anthropic kêu gọi quản lý AI biên
Bài viết chỉ trích bài luận của Dario Amodei, trong đó ông kêu gọi siết chặt quản lý các mô hình open-weight, distillation và áp lực cạnh tranh ở biên AI. Nội dung tập trung vào Anthropic, OpenAI và tranh luận rộng hơn về an toàn AI, lạm dụng sinh học, chống độc quyền và tác động xã hội của các hệ thống AI tiên tiến.
- 5Hacker News·13/9/2026regulationGarry Tan ủng hộ việc các phòng lab AI mã nguồn mở của Mỹ chưng cất mô hình
CEO Y Combinator Garry Tan cho rằng cơ quan quản lý Mỹ không nên hạn chế kỹ thuật chưng cất mô hình, và các phòng lab AI open-weight của Mỹ cũng nên được phép chưng cất các mô hình tiên phong. Ông lập luận rằng điều này có thể mở rộng lựa chọn open-weight trong nước và giảm phụ thuộc vào các phòng lab Trung Quốc, đồng thời vẫn bảo toàn mô hình kinh doanh cho các công ty phát triển mô hình tiên phong.
- 9Ars Technica AI·9/9/2026securityMỹ cáo buộc sáu công ty AI Trung Quốc sao chép các mô hình tiên phong
Các cơ quan Mỹ cho biết DeepSeek, Moonshot AI, Alibaba, MiniMax, StepFun và Z.AI đã thực hiện các cuộc tấn công chưng cất mô hình ở quy mô công nghiệp nhằm vào các mô hình AI tiên phong của Mỹ từ ít nhất cuối năm 2024. Cơ quan này cáo buộc các công ty có khả năng đã hành động với sự biết trước của chính phủ Trung Quốc, dựa trên việc khai thác năng lực từ các mô hình như Claude, GPT, Gemini và Grok.
- 7The New Stack·12/8/2026model_releaseMeta phát hành pipeline chưng cất của riêng mình với Muse Glimmer
Meta đã phát hành Muse Glimmer, một mô hình mã nguồn mở trọng số 30 tỷ tham số được chưng cất từ Muse Spark và cấp phép Apache 2.0. Bản phát hành này đóng gói cả phần mô hình “giáo viên” lẫn “học trò” trong quy trình chưng cất, kèm các bản dựng lượng tử hóa và thành phần drafting, cho thấy chưng cất đang trở thành một pipeline triển khai cho doanh nghiệp chứ không chỉ là vấn đề sao chép mô hình.
- 7Hacker News·3/8/2026open_sourceAirLLM chạy mô hình 70B trên một GPU 4GB
AirLLM là một phương pháp suy luận mã nguồn mở cho phép chạy mô hình ngôn ngữ 70 tỷ tham số trên một GPU 4GB bằng cách nạp từng lớp mô hình theo nhu cầu. Dự án thu hút chú ý trên Hacker News vì làm giảm yêu cầu phần cứng cho suy luận mô hình lớn, dù hiệu năng thực tế và các đánh đổi còn phụ thuộc vào cách triển khai.
- 8The New Stack·22/7/2026securityMỹ cáo buộc Moonshot AI chưng cất Fable của Anthropic để phát triển K3
Một quan chức Mỹ cho biết Moonshot AI bị cáo buộc đã dùng kỹ thuật chưng cất từ mô hình Fable của Anthropic để phát triển mô hình K3, đồng thời xây dựng công cụ nội bộ để luân chuyển cách truy cập nhằm tránh bị phát hiện. Tuyên bố cũng nói Moonshot đã mua máy chủ trang bị GB300 và tiếp cận các hệ thống GB300 ở Thái Lan, đồng thời coi đây là hành vi đánh cắp sở hữu trí tuệ ở quy mô công nghiệp, không phải chưng cất mô hình hợp pháp.
- 7Simon Willison·20/7/2026regulationTranh luận về sử dụng hợp lý và mô hình mở Qwen 3.8 Max
Bài viết nêu một đề xuất thay đổi chính sách bản quyền của Mỹ theo hướng xác nhận rõ việc dùng dữ liệu để huấn luyện mô hình là sử dụng hợp lý và hạn chế các điều khoản cấm distillation. Bài cũng đề cập việc Alibaba phát hành Qwen 3.8 Max dưới dạng open weights, cùng nhận định về một bài phát biểu gần đây của Tập Cận Bình kêu gọi thúc đẩy mã nguồn mở, hợp tác và chia sẻ.