transcribe.cpp

Bằng chứng (20)

• 4Hugging Face Blog·22/9/2026open_source
  Jun Kim gia nhập Hugging Face để hỗ trợ cộng đồng MLX

  Hugging Face cho biết Jun Kim, nhà sáng tạo và duy trì oMLX, đã gia nhập công ty để hỗ trợ cộng đồng MLX. Theo bài viết, động thái này sẽ giúp oMLX ổn định và có nguồn lực dài hạn hơn, trong khi vẫn giữ giấy phép Apache 2.0 và Jun tiếp tục dẫn dắt dự án. Hugging Face cũng muốn đơn giản hóa việc chuyển các định nghĩa mô hình từ Transformers sang các triển khai MLX.

• 3Hacker News·21/9/2026research
  Công cụ giải thích Transformer bằng trực quan

  Bài viết tương tác này giải thích cách hoạt động của mô hình transformer bằng các hình minh họa trực quan cho những thành phần chính như cơ chế attention và xử lý token. Đây là tài nguyên آموزشی nhằm giúp kiến trúc này dễ hiểu hơn, không phải thông báo về một mô hình hay sản phẩm mới.

• 7Hugging Face Blog·21/9/2026research
  Cắt tỉa LLM bằng cách ánh xạ việc loại bỏ khối sang tối ưu hóa Ising

  Hugging Face giới thiệu một hướng nghiên cứu xem việc loại bỏ các transformer block trong mô hình ngôn ngữ lớn như một bài toán tối ưu nhị phân có ràng buộc. Khi ánh xạ việc chọn block sang mô hình Ising glass, phương pháp này khai thác tương tác giữa các block để dự đoán chất lượng cắt tỉa và báo cáo kết quả mạnh trên Llama-3.3-70B-Instruct ở mức nén 50%.

• 5Hacker News·12/9/2026research
  Phân tích ngược Neural Engine M1 của Apple

  Bài viết nhìn lại quá trình phân tích ngược Neural Engine trên M1 của Apple và mô tả kiến trúc bên trong, gồm khối tính toán, đường dữ liệu, bộ lập lịch, bộ nhớ và mô hình thực thi. Tác giả cho rằng ANE được tối ưu cho các tác vụ kiểu CNN và thiết kế M5 mới cho thấy Apple đang chuyển sang tích hợp hướng transformer trên GPU thay vì một NPU độc lập.

• 7Hacker News·9/9/2026research
  GPT-6 Astra, Transformer lặp và suy luận ẩn

  Bài viết tổng hợp ấn tượng ban đầu về GPT-6 Astra của OpenAI, mô tả đây là một mô hình rất mạnh, đặc biệt nổi bật ở toán, lập trình và các tác vụ 3D/rendering. Tác giả sau đó phân tích transformer dạng lặp hay hồi quy và bàn về việc liệu chúng có liên quan đến chuỗi suy luận ẩn hay không, đồng thời điểm qua các nghiên cứu gần đây liên quan.

• 3Hacker News·8/9/2026open_source
  Show HN: Công cụ trực quan hóa attention của LLM

  Một bài đăng trên Hacker News giới thiệu công cụ tương tác để trực quan hóa các mẫu attention trong mô hình ngôn ngữ lớn. Dự án này nhằm giúp người dùng quan sát quan hệ giữa các token trong quá trình suy luận và hiểu rõ hơn cách LLM hoạt động.

• 5Hacker News·4/9/2026research
  Vì sao LLM không chỉ là bộ dự đoán token kế tiếp

  Bài viết cho rằng việc xem LLM chỉ là bộ dự đoán token kế tiếp là một cách hiểu chưa đầy đủ. Tác giả giải thích rằng dù tiền huấn luyện phù hợp với mô tả này, các phương pháp hậu huấn luyện hiện đại như RLVR còn cho mô hình học từ những chuỗi nó tự tạo ra và phần thưởng gắn với các chuỗi đó. Bài viết dùng phép so sánh với engine cờ vua để làm rõ khác biệt giữa sao chép dữ liệu sẵn có và học qua khám phá.

• 8Hacker News·1/9/2026research
  Transformer nhỏ được huấn luyện trong 1,5 giờ vượt nhiều LLM trên ARC

  Tác giả cho biết đã huấn luyện một transformer nhỏ từ đầu trong khoảng 1,5 giờ trên GPU 5090 và khẳng định mô hình này đạt hoặc vượt một số mô hình lớn hơn trên các bài đánh giá kiểu ARC. Cách tiếp cận mới bổ sung các thay đổi về kiến trúc và huấn luyện như SwiGLU, RMSNorm, giảm số phép tăng cường dữ liệu, và dùng các bài toán không trùng lặp từ ARC-2 đồng thời lọc trùng để tránh rò rỉ dữ liệu.

• 5InfoQ·31/8/2026research
  Chạy khối lượng công việc AI ngay trong trình duyệt ở biên

  James Hall trình bày lý do các khối lượng công việc AI đang dịch chuyển từ dịch vụ đám mây sang thiết bị biên cục bộ, tập trung vào việc thực thi ngay trong trình duyệt. Ông nêu các cách dùng WebGPU, Transformers.js và DuckDB để cải thiện hiệu năng, giảm rủi ro riêng tư và hỗ trợ đánh giá suy luận trên trình duyệt chặt chẽ hơn.

• 6Hacker News·20/8/2026research
  Mô hình tự động hoàn thiện piano chạy thời gian thực ngay trên iPhone

  Một nhà phát triển đã huấn luyện mô hình transformer 125 triệu tham số để tự động hoàn thiện phần biểu diễn piano theo thời gian thực ngay trên thiết bị, đạt khoảng 108 nốt mỗi giây trên iPhone 15. Kết quả nhấn mạnh vai trò của cách biểu diễn MIDI, việc làm sạch dữ liệu mạnh tay và hậu huấn luyện DPO trong việc cải thiện chất lượng phần nhạc tiếp nối.

• 8The New Stack·5/8/2026research
  Google tái cơ cấu lãnh đạo DeepMind khi bốn kỹ sư kỳ cựu lập Discovery Loop

  Google đang tái cấu trúc lãnh đạo DeepMind, trong đó Demis Hassabis chuyển sang vai trò chủ tịch kiêm giám đốc khoa học, còn Koray Kavukcuoglu phụ trách rộng hơn việc phát triển mô hình Gemini và các sản phẩm liên quan. Cùng lúc, Jeff Dean, Sanjay Ghemawat, Oriol Vinyals và Quoc Le rời Google để lập Discovery Loop, một công ty vì lợi ích cộng đồng tập trung vào việc dùng AI để tự động hóa nghiên cứu khoa học và kỹ thuật; Google vẫn là nhà đầu tư sáng lập và nhà cung cấp cloud.

• 7Hacker News·19/7/2026open_source
  transcribe.cpp ra mắt như thư viện chuyển giọng nói thành văn bản dựa trên ggml

  transcribe.cpp là một thư viện chuyển đổi giọng nói thành văn bản phiên bản v0.1.0 xây dựng trên ggml, hướng tới hỗ trợ nhiều mô hình ASR hiện đại với tăng tốc GPU. Tác giả cho biết mỗi mô hình đều được kiểm chứng số học và kiểm tra WER so với bản tham chiếu, đồng thời dự án có các binding cho Python, JavaScript/TypeScript, Rust và Swift/ObjC.

• 5Hacker News·14/7/2026research
  LeMario huấn luyện mô hình thế giới JEPA trên Super Mario Bros

  Một nhà phát triển đã tái tạo kiến trúc LeWorldModel và huấn luyện một mô hình Joint-Embedding Predictive Architecture (JEPA) trên Super Mario Bros. Bài viết cho biết mô hình dự đoán được các diễn tiến ngắn hạn và hỗ trợ lập kế hoạch không cần phần thưởng ở mức độ hạn chế, nhưng không thể tiến triển ổn định qua các chướng ngại dài trong trò chơi.

• 8Hugging Face Blog·8/7/2026framework_update
  Backend Transformers trong vLLM đạt tốc độ ngang native

  Hugging Face cho biết backend mô hình Transformers trong vLLM nay đã đạt hoặc vượt thông lượng của các bản triển khai native do vLLM tự viết cho một số mô hình Qwen3. Bản cập nhật cho phép tác giả mô hình chạy mô hình Transformers trong vLLM chỉ với một cờ cấu hình, đồng thời vẫn giữ nguyên các chế độ song song và quy trình phục vụ quen thuộc.

• 7Hacker News·2/7/2026research
  Một lớp Transformer duy nhất bắt kịp huấn luyện RL đầy đủ

  Một bài nghiên cứu trên arXiv cho thấy một lớp Transformer duy nhất có thể đạt hiệu năng tương đương với cấu hình huấn luyện reinforcement learning toàn tham số trong bài toán được khảo sát. Kết quả này gợi ý rằng phần lớn lợi ích có thể đến từ một phần nhỏ của mô hình hơn dự đoán, dù đây vẫn là phát hiện nghiên cứu ban đầu.

• 6Hugging Face Blog·29/6/2026research
  DiScoFormer hợp nhất ước lượng mật độ và score trong một transformer

  Hugging Face giới thiệu DiScoFormer, một mô hình dựa trên transformer có thể ước lượng đồng thời mật độ và score của một phân phối từ một mẫu dữ liệu chỉ với một lượt suy luận. Cách tiếp cận này dùng một backbone chung với hai đầu ra riêng và một hàm mất mát nhất quán; nhóm tác giả cũng cho thấy attention có thể tái hiện kernel density estimation như một trường hợp đặc biệt và mở rộng lên các không gian nhiều chiều.

• 7Hugging Face Blog·24/6/2026framework_update
  NVIDIA NeMo AutoModel tăng tốc tinh chỉnh MoE trên Transformers v5

  Hugging Face giới thiệu cách NVIDIA NeMo AutoModel tận dụng Transformers v5 để cải thiện hiệu năng tinh chỉnh các mô hình Mixture-of-Experts. Với cùng API from_pretrained(), giải pháp này bổ sung Expert Parallelism, cơ chế all-to-all DeepEP và các kernel TransformerEngine, giúp tăng thông lượng và giảm mức dùng bộ nhớ GPU.

• 5Hugging Face Blog·23/6/2026framework_update
  Transformers.js thử nghiệm Cross-Origin Storage API đề xuất để chia sẻ bộ nhớ đệm

  Hugging Face giới thiệu các thử nghiệm trong Transformers.js với Cross-Origin Storage API đang được đề xuất nhằm giảm việc tải xuống và lưu trữ trùng lặp giữa các origin khác nhau. Bài viết cho thấy các tệp mô hình và tài nguyên WebAssembly dùng chung có thể được lưu một lần và tái sử dụng, thay vì bị tải lại cho từng trang web dùng cùng tài nguyên.

• 5Hugging Face Blog·18/6/2026research
  Hugging Face đặt câu hỏi liệu có thể vượt qua LoRA hay không

  Hugging Face đăng bài phân tích các phương pháp fine-tuning hiệu quả về tham số và đặt câu hỏi liệu LoRA có thực sự là lựa chọn tốt nhất hay không. Bài viết nêu vai trò của PEFT, cho thấy LoRA đang áp đảo về mức độ sử dụng, và cho rằng sự phổ biến này có thể được củng cố bởi độ hiển thị và hệ sinh thái hỗ trợ chứ không chỉ bởi hiệu năng.

• 7Hugging Face Blog·19/5/2026model_release
  OlmoEarth v1.1 giảm chi phí tính toán của mô hình vệ tinh tới 3 lần

  Allen Institute for AI đã phát hành OlmoEarth v1.1, một họ mô hình quan sát Trái Đất mới nhằm tăng hiệu quả mà vẫn giữ hiệu năng trên các bộ đánh giá và bài toán cùng đối tác. Bản cập nhật tập trung vào việc rút ngắn chuỗi token khi xử lý ảnh vệ tinh, giúp giảm chi phí tính toán, tăng tốc suy luận và triển khai với chi phí thấp hơn ở quy mô lớn.