Needle 2
AssessCông cụ
Một LLM tác tử dung lượng 14MB cho gọi công cụ, trích xuất có cấu trúc và điều khiển thiết bị biên.
Vì sao ở đây
Xếp vào Assess: 2 bài bằng chứng từ 1 nguồn, chủ yếu là phát hành mô hình, 1 bài trong 30 ngày qua. Độ tin cậy 35%.
Bằng chứng (2)
- 7Hacker News·8/10/2026model_releaseWhistle: Mô hình chuyển giọng nói thành văn bản trên thiết bị, dung lượng 16,9 MB
Whistle là mô hình nhận dạng giọng nói nhỏ gọn, chạy hoàn toàn trên thiết bị và trên CPU, không cần phụ thuộc ngoài. Mô hình hỗ trợ chuyển âm thanh thành văn bản, gắn mốc thời gian theo từng từ và tạo speech embedding cho tối đa 30 giây âm thanh bằng bảy ngôn ngữ, trong đó dữ liệu âm thanh không rời khỏi thiết bị.
- 7Hacker News·10/8/2026model_releaseNeedle 2: LLM tác tử 14MB cho thiết bị biên
Cactus đã phát hành Needle 2, một LLM tác tử nhỏ gọn dung lượng 14MB, hướng tới gọi công cụ, trích xuất có cấu trúc và điều khiển thiết bị trên điện thoại, thiết bị đeo, nhà thông minh, vi điều khiển và robot nhỏ. Mô hình dùng 45 triệu tham số ở mức nén 2-bit, được cho là đạt tốc độ xử lý token rất cao trên phần cứng biên, và có thể fine-tune cục bộ bằng gói Python cùng quy trình tạo dữ liệu tự động.