Prefix cache
AssessKỹ thuật
Kỹ thuật cache tái sử dụng phần tiền tố prompt lặp lại để giảm chi phí token đầu vào.
Vì sao ở đây
Xếp vào Assess: 2 bài bằng chứng từ 1 nguồn, chủ yếu là phát hành mô hình, 1 bài trong 30 ngày qua. Độ tin cậy 33%.
Bằng chứng (2)
- 4Hacker News·31/7/2026product_launchManifest ngừng hỗ trợ bộ định tuyến LLM
Manifest cho biết họ đã ngừng hỗ trợ và tắt bộ định tuyến LLM sau bốn tháng sử dụng, với lập luận rằng việc định tuyến làm tăng độ phức tạp và khó đoán trong khi mức tiết kiệm lại hạn chế. Công ty cho rằng với nhiều quy trình làm việc, dùng một mô hình đã được kiểm chứng cùng cơ chế cache và lựa chọn mô hình nhất quán sẽ hiệu quả hơn.
- 8Hacker News·8/7/2026model_releaseMistral ra mắt Robostral Navigate cho điều hướng robot
Mistral đã giới thiệu Robostral Navigate, mô hình điều hướng hiện thân 8B sử dụng một camera RGB duy nhất và hướng dẫn bằng ngôn ngữ tự nhiên để điều khiển robot đi qua các môi trường phức tạp. Theo công ty, mô hình đạt tỷ lệ thành công 76,6% trên tập kiểm thử R2R-CE chưa thấy trước đó, vượt các baseline đa cảm biến và đơn camera mạnh hơn, đồng thời được huấn luyện hoàn toàn trong mô phỏng.