on-device machine learning
AssessKỹ thuật
Xử lý và suy luận học máy diễn ra cục bộ trên thiết bị thay vì trên đám mây.
Vì sao ở đây
Xếp vào Assess: 5 bài bằng chứng từ 3 nguồn, chủ yếu là tin nghiên cứu, 2 bài trong 30 ngày qua. Độ tin cậy 60%.
Bằng chứng (5)
- 4InfoQ·24/9/2026framework_updateThiết kế trải nghiệm người dùng di động nhanh và hấp dẫn với LLM
Balakrishnan Ramdoss trình bày cách xây dựng ứng dụng hội thoại di động dùng LLM ở mức sẵn sàng triển khai, đồng thời kiểm soát độ trễ ở quy mô lớn. Bài nói nhấn mạnh server-driven UI, mô hình Backend-for-Frontend, tối ưu prompt để chọn giao diện, và AI chạy trực tiếp trên thiết bị nhằm tăng tốc độ và bảo vệ quyền riêng tư.
- 7Ars Technica AI·17/9/2026researchStartup được NATO hậu thuẫn đưa nhận diện mục tiêu bằng AI lên drone nhỏ
Scaleout Systems, một startup Thụy Điển được NATO hậu thuẫn, đang điều chỉnh các mô hình AI nhỏ để chạy trực tiếp trên drone cho nhiệm vụ trinh sát và tấn công. Công ty đã chuyển hướng từ học máy biên cho công nghiệp sang ứng dụng quốc phòng sau cuộc xâm lược Ukraine năm 2022 của Nga, với mục tiêu giúp các nước đồng minh xử lý dữ liệu cảm biến tại chỗ và tự động nhận diện mục tiêu.
- 6InfoQ·19/8/2026product_launchWhatsApp thử nghiệm phát hiện lừa đảo ngay trên thiết bị
WhatsApp đang thử nghiệm tính năng beta giới hạn có tên Scam Alert, sử dụng học máy trên thiết bị để nhận diện các tin nhắn lừa đảo tiềm ẩn từ người không có trong danh bạ. Meta cho biết hệ thống được thiết kế để giữ nội dung tin nhắn trên thiết bị, đồng thời dùng các phương pháp bảo vệ quyền riêng tư như confidential computing, Oblivious HTTP, differential privacy và tính minh bạch của mô hình để đo lường hiệu quả và bảo vệ quá trình phân phối mô hình.
- 5Hacker News·14/8/2026product_launchSparrowMap huy động camera cộng đồng để theo dõi xe công vụ
SparrowMap là một dự án do tình nguyện viên vận hành, dùng điện thoại cũ, webcam hoặc camera USB để phát hiện xe đi qua đường và chỉ lưu lại các xe thuộc cơ quan nhà nước. Việc nhận diện chạy ngay trên thiết bị; biển số xe không thuộc diện quan tâm bị xóa ngay trên máy trước khi dữ liệu nào được gửi đi, còn máy chủ chỉ nhận các điểm ẩn danh và thông tin theo tuyến đường. Dự án có thể chạy trong một tab trình duyệt trên điện thoại cũ hoặc trên máy tính để bàn gắn webcam, với hướng dẫn cài đặt cho Windows và Linux.
- 4Hacker News·27/6/2026researchNghiên cứu về kiến trúc và hiệu năng của Apple Neural Engine
Bài báo trên arXiv này phân tích kiến trúc, mô hình lập trình và đặc tính hiệu năng của Apple Neural Engine trên các thiết bị được hỗ trợ. Mục tiêu là làm rõ cấu trúc phần cứng và cách nhà phát triển có thể khai thác hiệu quả cho các tác vụ học máy chạy trực tiếp trên thiết bị.