localStorage

Bằng chứng (10)

• 5Hacker News·31/7/2026open_source
  Chạy Kimi K3 với 29 GB RAM ở tốc độ 0,50 token/giây

  Một dự án trên GitHub cho thấy cách chạy mô hình Kimi K3 cục bộ với khoảng 29 GB RAM, nhưng tốc độ chỉ 0,50 token/giây. Thảo luận trên Hacker News tập trung vào tính khả thi khi chạy mô hình lớn trên phần cứng phổ thông và sự đánh đổi giữa mức sử dụng bộ nhớ với tốc độ suy luận.

• 4Hacker News·28/7/2026open_source
  Chạy Kimi K3 trên máy M1 Max

  Bài viết trình bày việc thử chạy Kimi K3 trên máy Apple M1 Max, qua đó cho thấy các vấn đề thực tế về suy luận cục bộ và hiệu năng trên phần cứng phổ thông. Phần thảo luận tập trung vào tính khả thi, mức độ tối ưu và sự quan tâm của cộng đồng đối với việc chạy mô hình lớn ngoài môi trường đám mây.

• 6Simon Willison·20/7/2026research
  Email của Altman tiết lộ kế hoạch mô hình cỡ GPT-3 chạy cục bộ của OpenAI

  Một email của Sam Altman gửi ban lãnh đạo OpenAI vào tháng 10/2022 cho biết công ty muốn sớm phát hành một mô hình ngôn ngữ có năng lực xấp xỉ GPT-3 và có thể chạy cục bộ trên phần cứng tiêu dùng. Email này cũng nêu mục tiêu một phần là để làm nản lòng các đối thủ phát hành mô hình tương tự và khiến các dự án mới khó gọi vốn hơn.

• 2Simon Willison·17/7/2026product_launch
  Công cụ tô nổi các sáo ngữ của LLM

  Simon Willison giới thiệu một công cụ chạy ngay trên trình duyệt để phát hiện và đánh dấu các cụm từ sáo mòn thường xuất hiện trong văn bản do LLM tạo ra, như chuỗi "no X, no Y" hoặc "you already know". Ứng dụng hiển thị số lượng mẫu, danh sách kết quả với điều hướng nhanh và lưu thiết lập cục bộ trong trình duyệt.

• 4InfoQ·13/7/2026framework_update
  Tọa đàm bàn về thách thức của dữ liệu chủ quyền và điện toán ưu tiên cục bộ

  Một tọa đàm về quyền sở hữu dữ liệu cho rằng chỉ kiểm soát tài khoản là chưa đủ để được coi là quyền sở hữu thực sự. Các diễn giả nhấn mạnh chủ quyền của người dùng còn phụ thuộc vào tính độc lập về cấu trúc, khả năng tương tác, tiêu chuẩn chung và mô hình quản trị cộng đồng.

• 4InfoQ·13/7/2026framework_update
  AT Protocol cho ứng dụng local-first bền bỉ hơn

  Jake Lazaroff trình bày AT Protocol như một nền tảng cho các ứng dụng phân tán vượt ra ngoài mạng xã hội. Ông nhấn mạnh mô hình local-first, trong đó dữ liệu người dùng nằm trên các personal data server (PDS) còn hạ tầng dùng chung xử lý đồng bộ và cập nhật, giúp giảm phụ thuộc vào backend riêng của từng ứng dụng.

• 5Hacker News·3/7/2026open_source
  Hướng dẫn chạy các mô hình LLM tiên tiến ngay trên máy cá nhân

  Bài hướng dẫn trên GitHub trình bày các cách thực tế để chạy mô hình ngôn ngữ lớn tiên tiến ngay trên máy cá nhân. Nội dung tập trung vào lựa chọn thiết lập, yêu cầu phần cứng và các công cụ hỗ trợ cho người muốn dùng LLM mà không phụ thuộc vào API đám mây.

• 6Hacker News·2/7/2026regulation
  Quyền được dùng trí tuệ cục bộ

  Bài viết nêu một đề xuất ủng hộ quyền chạy các hệ thống trí tuệ và tính toán ngay trên thiết bị thay vì phụ thuộc hoàn toàn vào dịch vụ đám mây từ xa. Quan điểm này xem việc xử lý cục bộ là vấn đề về quyền kiểm soát của người dùng và khả năng vận hành bền vững, trong bối cảnh các hệ thống AI ngày càng đóng vai trò trung tâm trong sản phẩm số.

• 4InfoQ·29/6/2026research
  Adam Wiggins nói về kiến trúc local-first và AI lai

  Trong tập podcast này, Adam Wiggins, đồng sáng lập Heroku và Ink & Switch, ủng hộ kiến trúc local-first, kết hợp cộng tác trên đám mây với tốc độ và quyền sở hữu dữ liệu của phần mềm chạy cục bộ. Ông cũng bàn về việc áp dụng CRDT và các khái niệm kiểm soát phiên bản sang những lĩnh vực ngoài lập trình, cùng một hướng AI lai có thể dùng mô hình chạy local cho các tác vụ năng suất cốt lõi.

• 8Hugging Face Blog·20/2/2026open_source
  GGML và llama.cpp gia nhập Hugging Face

  Hugging Face thông báo GGML, nhóm đứng sau llama.cpp, sẽ gia nhập công ty để hỗ trợ sự phát triển dài hạn của AI cục bộ. Dự án sẽ tiếp tục là mã nguồn mở và do cộng đồng dẫn dắt, trong khi đội ngũ vẫn giữ quyền tự chủ kỹ thuật và Hugging Face cung cấp nguồn lực bền vững cùng các cải tiến về đóng gói.