Ollama
AdoptCông cụ
Công cụ để chạy các mô hình ngôn ngữ lớn cục bộ trên máy cá nhân.
Vì sao ở đây
Xếp vào Adopt: 12 bài bằng chứng từ 5 nguồn, chủ yếu là ra mắt sản phẩm, 6 bài trong 30 ngày qua. Độ tin cậy 84%.
Bằng chứng (12)
- 7NVIDIA GenAI·2/10/2026product_launchNVIDIA bổ sung DGX Spark 64GB cho phát triển AI cục bộ
NVIDIA ra mắt cấu hình DGX Spark 64GB thông qua các đối tác sản xuất, hướng tới nhà phát triển, nhà nghiên cứu và người dùng muốn chạy AI cục bộ. Hệ thống đi kèm DGX OS và bộ phần mềm AI của NVIDIA, hỗ trợ mô hình tới 100 tỷ tham số trên máy, đồng thời có thể ghép thành cụm 2 máy để tăng bộ nhớ và hiệu năng mà không cần thiết lập phức tạp.
- 3Hacker News·28/9/2026researchMột sản phẩm AI nghiêm túc nên có gì
Bài viết cho rằng các sản phẩm dựa trên LLM hiện nay chưa thực sự coi trọng những giới hạn của chính chúng, đặc biệt là về độ tin cậy và khả năng kiểm chứng. Tác giả đề xuất một sản phẩm AI nghiêm túc phải biến việc kiểm tra tính đúng đắn thành một phần cốt lõi của quy trình, thay vì chỉ để trách nhiệm cho các dòng cảnh báo nhỏ và cho người dùng tự xử lý.
- 6Hacker News·25/9/2026open_sourceOllaya đưa mô hình ra quyết định chạy cục bộ vào quy trình kiểu Ollama
Ollaya là một dự án mã nguồn mở cho phép chạy các mô hình ra quyết định có kiểu dữ liệu ngay trên phần cứng của bạn. Dự án cung cấp các endpoint tương thích TypeSafe và hỗ trợ các mô hình mở như Laya, Decider, NLI và Gliclass để trả lời có hiệu chỉnh, độ trễ thấp cho các câu hỏi có cấu trúc.
- 4Hugging Face Blog·22/9/2026open_sourceJun Kim gia nhập Hugging Face để hỗ trợ cộng đồng MLX
Hugging Face cho biết Jun Kim, nhà sáng tạo và duy trì oMLX, đã gia nhập công ty để hỗ trợ cộng đồng MLX. Theo bài viết, động thái này sẽ giúp oMLX ổn định và có nguồn lực dài hạn hơn, trong khi vẫn giữ giấy phép Apache 2.0 và Jun tiếp tục dẫn dắt dự án. Hugging Face cũng muốn đơn giản hóa việc chuyển các định nghĩa mô hình từ Transformers sang các triển khai MLX.
- 7The New Stack·21/9/2026open_sourceAWS mã nguồn mở Strands Harness, khung tác tử AI
AWS đã phát hành Strands Harness, một tác tử AI đa dụng mã nguồn mở được xây dựng trên Strands Agents SDK. Dự án này tích hợp sẵn quản lý ngữ cảnh, bộ nhớ, phiên làm việc, công cụ và cơ chế ủy nhiệm, đồng thời có thể dùng các nhà cung cấp mô hình như Bedrock, Anthropic, OpenAI, Google hoặc Ollama mà không phụ thuộc bắt buộc vào hạ tầng AWS.
- 5Hacker News·14/9/2026securityBài học khi chuyển các preprompt dài sang Ollama tự lưu trữ
Bài viết nêu các vấn đề thực tế khi chuyển quy trình preprompt lớn từ Anthropic Claude Opus sang môi trường Ollama tự lưu trữ. Tác giả cho rằng tự vận hành trên phần cứng của mình giúp bảo vệ tốt hơn siêu dữ liệu phiên làm việc và prompt nhạy cảm khỏi các nhà cung cấp bên thứ ba. Bài viết cũng phê phán cách các nhà cung cấp AI hàng đầu tiếp cận bảo mật và lưu giữ dữ liệu.
- 7InfoQ·3/9/2026product_launchNvidia PAIR điều phối tác vụ AI agent sang các máy Mac và PC đang nhàn rỗi
Nvidia vừa ra mắt PAIR, một bộ định tuyến mã nguồn mở cho mạng nội bộ, cho phép gửi yêu cầu của AI agent tới các máy Mac và PC đang nhàn rỗi có cài Ollama hoặc LM Studio. Công cụ này không chia nhỏ một lần suy luận trên nhiều máy; thay vào đó, nó phân bổ từng yêu cầu cho một nút phù hợp, giúp tăng tốc các luồng công việc song song với nhiều subagent trên phần cứng hỗn hợp.
- 4Hacker News·1/9/2026product_launchVận hành một bộ LLM cục bộ trên Mac mini M4 Pro
Bài viết mô tả một thiết lập AI cục bộ trên Mac mini M4 Pro với 48 GB RAM, dùng để phục vụ mô hình cho các tác vụ agent và truy vấn nhanh trên MacBook, iPhone và Telegram. Tác giả cho rằng suy luận cục bộ giúp chi phí ổn định hơn, độ trễ thấp hơn, dùng được ngoại tuyến, tăng quyền riêng tư và giảm phụ thuộc vào thay đổi chính sách hay giới hạn của API đám mây.
- 6The New Stack·26/8/2026product_launchClaude Desktop giờ có thể dùng các mô hình Qwen, DeepSeek và Kimi qua Ollama
Ollama đã bổ sung tích hợp mới cho phép Claude Desktop kết nối với các mô hình bên thứ ba được cung cấp qua Ollama, bao gồm cả mô hình chạy cục bộ và trên đám mây. Bản cập nhật này khôi phục một khả năng từng bị gián đoạn sau thay đổi của Claude Desktop, đồng thời cho phép người dùng chọn các mô hình như Qwen, DeepSeek, Kimi và GLM ngay trong ứng dụng của Anthropic.
- 7The New Stack·24/8/2026product_launchJetBrains Junie bổ sung chế độ chạy cục bộ hoàn toàn ngoại tuyến
JetBrains đã giới thiệu Junie Local, phiên bản miễn phí của trợ lý lập trình có thể chạy hoàn toàn trên máy của nhà phát triển mà không cần kết nối đám mây. Việc cài đặt được thực hiện ngay trong Junie, và bản phát hành này dùng mô hình Qwen3.6-27B chạy cục bộ, được tối ưu cho Mac Apple Silicon có ít nhất 64 GB bộ nhớ hợp nhất.
- 8Hacker News·19/7/2026fundingOllama huy động 88 triệu USD để mở rộng nền tảng mô hình mở
Ollama công bố vòng gọi vốn 88 triệu USD do Benchmark dẫn dắt cùng nhiều nhà đầu tư khác nhằm thúc đẩy nền tảng mô hình mở của mình. Công ty cho biết sẽ tập trung vào hybrid inference, hỗ trợ ngay khi mô hình mở mới ra mắt và dịch vụ đám mây vẫn giữ được quyền sở hữu và quyền riêng tư cho nhà phát triển.
- 7Hacker News·7/7/2026product_launchRowboat ra mắt như một lựa chọn mã nguồn mở, ưu tiên lưu trữ cục bộ thay thế Claude Desktop
Rowboat là một ứng dụng làm việc ưu tiên cục bộ, mã nguồn mở, được thiết kế để vượt khỏi mô hình chat bằng cách đưa trợ lý AI vào các bề mặt làm việc riêng như email, ghi chú họp, tác vụ trình duyệt, lập trình và ghi chú. Dữ liệu được lưu dưới dạng tệp Markdown, hỗ trợ nhiều LLM khác nhau gồm cả mô hình cục bộ qua Ollama hoặc LM Studio, và cho phép người dùng tự xây dựng cũng như cài đặt ứng dụng ngay trong nền tảng.