Blog

LLM cục bộ cho lập trình năm 2026

Markdown

8 LLM cục bộ tốt nhất để lập trình năm 2026 — điểm HumanEval, dung lượng tệp và đánh giá thực tế về các mô hình bạn có thể chạy trên Mac hoặc PC chơi game.

← Quay lại tổng hợp bài viết trên blog

Khi nói "LLM cục bộ cho lập trình", chúng tôi muốn nói đến các mô hình bạn có thể chạy trên máy tính xách tay, Mac hoặc PC chơi game của mình — không gọi API, không dùng đám mây, không gửi cơ sở mã độc quyền của bạn cho bên thứ ba.

Chuyển đến bảng. Muốn điều khiển các mô hình này từ CLI Claude Code? Xem Sử dụng Claude Code với các mô hình cục bộ.

Các điểm chuẩn đầy đủ ở bên dưới.

PocketLLM sắp ra mắt. AI riêng tư chạy trên thiết bị, bắt đầu với iPhone và iPad, các nền tảng khác sẽ được lên kế hoạch sau. Không cần tài khoản, không theo dõi trong ứng dụng và quá trình xử lý trò chuyện vẫn diễn ra trên thiết bị của bạn. Đăng ký danh sách ra mắt để là người đầu tiên tham gia.

Cách chúng tôi so sánh

Các con số điểm chuẩn, dung lượng tệp và giấy phép bên dưới là số liệu do từng mô hình công bố, được đối chiếu với thẻ mô hình hoặc kho lưu trữ của mô hình đó.

Chỉ báo cấp độ sơ bộ, không thay thế cho việc tự thử trên mã của bạn.

  • Dung lượng tệp: Ở mức lượng tử hóa Q4. Toàn bộ mục đích của mô hình cục bộ là "vừa với máy của bạn."
  • Giấy phép: Apache và MIT được xếp hạng cao nhất, các giấy phép phi thương mại thấp hơn.
  • Hệ sinh thái: Có hay không các bản chuyển đổi hoạt động cho llama.cpp, Ollama, MLX và Core ML; điều này quyết định liệu bạn có thể thực sự chạy mô hình hay không.

LLM lập trình cục bộ năm 2026

Qwen 2.5 Coder 32B

Cần một máy trạm (Mac Studio, PC nhiều GPU hoặc MacBook Pro M3 Max 48 GB), nhưng với khoản đầu tư đó, bạn có được trợ giúp lập trình gần ngang tầm Claude 3.5 Sonnet. Đây là lựa chọn phù hợp nếu mã của bạn cần được bảo mật và ngân sách cho phép trang bị máy trạm.

DeepSeek Coder V2 Lite 16B

Cần khoảng 10 GB RAM ở Q4. Trên MacBook Pro 16 GB, đây là lựa chọn tối ưu. Giấy phép theo điều khoản tùy chỉnh của DeepSeek — khá thoáng cho hầu hết mục đích sử dụng, nhưng hãy đọc kỹ trước khi thương mại hóa.

Qwen 2.5 Coder 14B

Bậc ở giữa trong dòng Qwen 2.5 Coder. Chạy vừa trên máy tính xách tay 16 GB và vẫn còn dư bộ nhớ. Điểm chuẩn thấp hơn DeepSeek V2 Lite một chút, nhưng giấy phép rõ ràng hơn và kiến trúc transformer dày đặc đơn giản hơn.

Qwen 2.5 Coder 7B

Chạy trên MacBook Air 8 GB (vừa khít) hoặc thoải mái trên máy 16 GB. Nếu bạn có M2 Air và muốn làm việc lập trình thực sự ngay trên máy, đây là mô hình dành cho bạn.

Mistral Codestral 22B

Mô hình lập trình chuyên dụng của Mistral. Mạnh về Python và TypeScript, khá tốt với các ngôn ngữ khác. Giấy phép Mistral Non-Commercial có nhiều hạn chế — hãy kiểm tra kỹ nếu bạn dùng mô hình này cho sản phẩm công việc. Khoảng 14 GB ở Q4, chạy được trên Mac 24 GB trở lên.

StarCoder 2 15B

Mô hình lập trình do Hugging Face, ServiceNow và NVIDIA cùng phát triển. Được huấn luyện trên mã có giấy phép thoáng, điều này có ý nghĩa nếu bạn lo ngại về nguồn gốc dữ liệu mà mô hình đã học.

Phi-3.5 Mini 3.8B

Giấy phép MIT, 2.4 GB ở Q4, đủ nhỏ để chạy trên điện thoại. PocketLLM được xây dựng để đóng gói mô hình này thành bản tải xuống chỉ với một lần chạm (sắp ra mắt) — hãy đăng ký danh sách ra mắt.

Qwen 2.5 Coder 1.5B

Mô hình lập trình chuyên dụng nhỏ nhất đáng chạy. Apache 2.0. 900 MB ở Q4. Hoàn hảo làm mô hình hoàn tất mã cục bộ nhanh cho các gợi ý nội tuyến, hoặc làm mô hình nháp cho giải mã suy đoán trước một mô hình lập trình lớn hơn.

Bảng tóm tắt

Mô hìnhDung lượng (Q4)RAM tối thiểuGiấy phép
Qwen 2.5 Coder 32B20 GB32 GBApache 2.0
DeepSeek Coder V2 Lite 16B10 GB16 GBDeepSeek
Qwen 2.5 Coder 14B9 GB16 GBApache 2.0
Qwen 2.5 Coder 7B4.5 GB8 GBApache 2.0
Mistral Codestral 22B14 GB24 GBMistral NC
StarCoder 2 15B9 GB16 GBBigCode OpenRAIL
Phi-3.5 Mini 3.8B2.4 GB4 GBMIT
Qwen 2.5 Coder 1.5B0.9 GB2 GBApache 2.0

Chọn mô hình lập trình cục bộ

Mac Studio / PC máy trạm (32 GB+): Qwen 2.5 Coder 32B. Không cần thỏa hiệp.

MacBook Pro 16 GB / máy tính xách tay chơi game: DeepSeek Coder V2 Lite 16B. Kiến trúc MoE khiến mô hình này có cảm giác nhẹ hơn nhiều so với số lượng tham số gợi ý.

MacBook Air 8 GB: Qwen 2.5 Coder 7B. Vừa khít nhưng dùng được. Hãy đóng mọi ứng dụng khác khi chạy mô hình.

iPhone hoặc Mac đời cũ: Phi-3.5 Mini hoặc Qwen 2.5 Coder 1.5B. Bạn sẽ không thể tạo ngay một ứng dụng Rails chỉ bằng một lần chạy, nhưng chắc chắn sẽ được trợ giúp để hiểu và chỉnh sửa mã hiện có. Cả hai đều được tích hợp trong PocketLLM.

Triển khai thương mại nhạy cảm về giấy phép: Hãy chọn dòng Qwen 2.5 Coder — Apache 2.0 hiện là lựa chọn rõ ràng nhất cho lập trình cục bộ.

Cách thực sự chạy các mô hình này

Trên Mac: cài đặt LM Studio hoặc Ollama, chọn mô hình từ danh mục rồi nhấp Download. Xem Ollama vs LM Studio vs PocketLLM. Trên Linux có GPU: dùng llama.cpp được biên dịch từ mã nguồn hoặc Ollama. Trên iPhone: dùng ứng dụng gốc chạy trên thiết bị — xem bài tổng hợp ứng dụng iPhone của chúng tôi.

Tích hợp các mô hình này với trình soạn thảo là một câu hỏi riêng và đáng có một bài viết riêng. Tóm lại: các plugin kiểu Continue.dev, Cody và Cursor đều hỗ trợ Ollama hoặc một endpoint localhost tương thích OpenAI, đáp ứng tất cả mô hình trong danh sách này.

Tóm tắt

32B nếu bạn có máy trạm, 14B trên máy tính xách tay chơi game, 7B trên máy tính xách tay giá rẻ, 1.5B trên điện thoại. DeepSeek Coder V2 Lite là ngoại lệ duy nhất: nếu bạn có đúng 16 GB RAM, kiến trúc MoE của DeepSeek cho chất lượng tốt hơn Qwen 14B một cách đáng kể, với dung lượng bộ nhớ gần như tương đương. Các mô hình còn lại trong danh sách này đều dành cho mục đích chuyên biệt.

Trợ lý lập trình cục bộ trên iPhone của bạn.

PocketLLM được xây dựng để đóng gói Phi-3.5 Mini và Qwen 2.5 Coder 1.5B thành bản tải xuống chỉ với một lần chạm. Riêng tư, nhanh, không cần tài khoản. Sắp ra mắt — hãy đăng ký danh sách ra mắt.

Áp dụng hướng dẫn này với Ailoot

Kết nối các mô hình AI với ứng dụng, tác nhân và quy trình tự động hóa của bạn thông qua một API Ailoot duy nhất. Chọn mô hình phù hợp với nhiệm vụ và làm theo tài liệu Ailoot để bắt đầu.