部落格

2026 年程式設計 LLM(開放權重與代管模型)

Markdown

2026 年 15 款最佳程式設計大型語言模型,依據 HumanEval、實際任務與隱私表現排名。以公正的評估標準比較開源模型與代管模型。

← 返回部落格文章列表

往下捲動查看完整排名,或跳至摘要表格。

PocketLLM 即將推出。 私密、在裝置上執行的 AI,將先在 iPhone 和 iPad 推出,並計畫支援更多平台。不需要帳戶、不會在應用程式內追蹤,聊天處理也會留在你的裝置上。加入上市通知名單,搶先使用。

比較方式

適合粗略分級,但不適合預測日常使用的實用程度。

  • 上下文處理: 公布的上下文視窗,決定一次提示中能容納多少程式碼庫內容。
  • 隱私: 是否能在不將程式碼傳送給外部單位的情況下執行模型。這是唯一具有結構性差異、而非程度差異的特性。
  • 授權條款: 參考模型儲存庫,確認權重是否允許商業使用。

2026 年程式設計 LLM

Claude 3.5 Sonnet

擅長處理長上下文,能清楚說明推理過程,很少捏造 API,而且比任何競爭模型更常產出確實能編譯的程式碼。代價是它屬於代管的專有模型,無法在本機或裝置上執行。如果你的程式碼屬於機密,請繼續閱讀。

GPT-4o

OpenAI 的旗艦模型。在純程式設計基準測試上的表現略遜於 Sonnet,但在以自然語言推理程式碼方面略勝一籌。非常擅長「讀取這段堆疊追蹤並告訴我問題在哪裡」。和 Sonnet 一樣需要留意:它是代管的專有模型,會將你的程式碼傳送至 OpenAI。

Qwen 2.5 Coder 32B

如果你有 Mac Studio 或電競電腦,這就是適合本機執行的程式設計模型。

DeepSeek Coder V2 236B

完整的 236B 混合專家模型。你大概無法執行它,因為它需要多 GPU 工作站。我們將它列出,是因為較小的 Lite 版本(#6)承襲了大部分能力,而且實用得多。

Gemini 1.5 Pro

Google 的長上下文冠軍。最突出的特色是 2M token 上下文視窗,讓你可以貼上小型程式碼庫,提出橫跨多個檔案的問題。程式設計品質比 Sonnet 和 GPT-4o 稍遜一籌,但實際上非常接近,而上下文優勢對實際工作確實有幫助。

DeepSeek Coder V2 Lite 16B

每個 token 只有 2.4B 個啟用參數(混合專家架構),因此執行速度約等同 3B 模型。如果你想要本機程式碼輔助,又沒有工作站等級的硬體,這就是首選。

Llama 3.3 70B

Meta 在目前世代中最大的開放模型。它不是專門的程式設計模型,但足以妥善處理大多數任務。需要高階硬體(Q4 量化需 48 GB 以上 RAM)。如果你想用單一模型處理程式設計和一般推理,而且有足夠 RAM 執行它,就選這款。

Mistral Codestral 22B

Mistral 專用的程式設計模型。Mistral 的非商業研究授權限制較多,商業使用前請先確認。Q4 量化約需 14 GB,無論是程式碼補全或聊天式程式設計任務,表現都不錯,尤其擅長 Python 和 TypeScript。

Qwen 2.5 Coder 7B

我們第 #3 名推薦模型的 7B 版本。最適合配備 16 GB 記憶體的 MacBook Air。如果你試過 1.5B 版本,希望在沒有工作站硬體的情況下獲得更強的能力,這就是下一步的選擇。

StarCoder 2 15B

由 Hugging Face、ServiceNow 和 NVIDIA 推出的開放程式設計模型。它以採用寬鬆授權的程式碼訓練;如果你在意工具從哪些資料中學習,這一點就很重要。基準測試表現略遜於 Qwen 2.5 Coder 和 DeepSeek V2 Lite,但訓練資料來源的說明最清楚。

Phi-3.5 Mini

Microsoft 的小型 3.8B 模型。採用 MIT 授權,Q4 量化佔用 2.4 GB,可在手機上執行。

Qwen 2.5 Coder 1.5B

我們會推薦的最小型專用程式設計模型。當延遲比能力上限更重要時,它是可行的第一線程式碼補全模型。

Llama 3.1 8B

它不是專用的程式設計模型,但能力足以派上用場,而且在每種執行環境中都廣受支援。由於它普及到幾乎每款程式碼編輯器外掛都有現成的整合方式,因此將它列入。

Codestral Mamba 7B

Mistral 採用實驗性 Mamba 架構的程式設計模型。定時間注意力機制讓它能有效處理非常長的程式碼檔案,因此值得一提。品質略遜於以 Transformer 為基礎的競爭模型,但若只處理長上下文程式碼,它可能是更好的選擇。

CodeLlama 13B

這款 2023 年推出的模型,讓「本機程式設計 LLM」成為現實。我們將它列為歷史基準。如果你是從頭開始,就別選 CodeLlama。如果你已經設定好,就升級吧。

摘要表格

模型可在本機執行?授權條款
Claude 3.5 Sonnet否專有
GPT-4o否專有
Qwen 2.5 Coder 32B是(工作站)Apache 2.0
DeepSeek Coder V2 236B是(多 GPU)DeepSeek
Gemini 1.5 Pro否專有
DeepSeek Coder V2 Lite是(筆記型電腦)DeepSeek
Llama 3.3 70B是(工作站)Llama Community
Mistral Codestral 22B是(筆記型電腦)Mistral NC
Qwen 2.5 Coder 7B是(筆記型電腦)Apache 2.0
StarCoder 2 15B是(筆記型電腦)BigCode OpenRAIL
Phi-3.5 Mini是(手機)MIT
Qwen 2.5 Coder 1.5B是(手機)Apache 2.0
Llama 3.1 8B是(筆記型電腦)Llama Community
Codestral Mamba 7B是(筆記型電腦)Apache 2.0
CodeLlama 13B是(筆記型電腦)Llama Community

如何選擇程式設計模型

適用於可以將程式碼傳送給第三方的閉源專案: Claude 3.5 Sonnet。目前沒有任何程式設計助理在實際任務中比它更好,而它和 GPT-4o 之間的差距不大,但表現穩定。

在工作站上處理機密程式碼: Qwen 2.5 Coder 32B。它的能力已經接近前沿模型,不太會讓你想念 Sonnet,而且程式碼絕不會離開你的電腦。

在 16 GB 筆記型電腦上處理機密程式碼: DeepSeek Coder V2 Lite 16B。

在手機上處理機密程式碼: Phi-3.5 Mini 或 Qwen 2.5 Coder 1.5B。你無法一次就產生完整的 Rails 控制器,但絕對可以獲得理解和修改現有程式碼的協助。我們將在 PocketLLM 的即將推出版本中搭載這兩款模型,歡迎加入上市通知名單。

適合長上下文程式碼問題: Gemini 1.5 Pro 的 2M 視窗獨一無二。

摘要

如果答案是肯定的,就選 Claude 3.5 Sonnet。如果是否定的,就選 Qwen 2.5 Coder(選擇硬體可支援的尺寸)。如果你想在手機上獲得程式設計協助,本機模型終於已經好到值得一試。我們專門介紹本機程式設計模型的文章,詳細說明可在裝置上執行的選擇。

在 iPhone 上使用本機程式設計模型。

PocketLLM 將推出 Phi-3.5 Mini 和 Qwen 2.5 Coder,兩款模型都能一鍵下載,並完全在裝置上執行。加入上市通知名單。

使用 Ailoot 將本指南付諸實踐

透過單一 Ailoot API,將 AI 模型連接至你的應用程式、代理和自動化流程。選擇符合任務需求的模型,並參閱 Ailoot 文件開始使用。