# 小型語言模型：規模、用途與取捨

> 以下是你需要了解的小型語言模型的一切，包括它們與 LLM 的差異、最適合的用途，以及成本

Source: https://ailoot.ai/blog/zh-hant-tw/small-language-models-size-uses-and-tradeoffs/
Canonical: https://ailoot.ai/blog/zh-hant-tw/small-language-models-size-uses-and-tradeoffs/
Language: zh-Hant-TW
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100060
Revision: sha256-9e2205bcaec8c84bf9bfaa76a6eb0fd76790c87f446fa4401389864d03c1e3c2


## 什麼是小型語言模型？
儘管最受矚目的 LLM 持續變得更大、更強大，較小型的大型語言模型——也就是小型語言模型——仍然足以在現實世界中有效運作。這還沒把執行大型語言模型的成本算進去。大多數情況下，你應該使用能可靠完成所需工作的最小型語言模型，而不是你能用的最大型模型。

接下來，我們來看看小型語言模型、它們與大型語言模型的差異，以及它們擅長的用途。
## SLM 與 LLM：什麼是小型語言模型？

小型語言模型（SLM）是比目前大型語言模型更小的語言模型。這個名稱描述的是相對規模，而非固定界線。

## SLM 與資源使用

增加參數也會帶來成本。而且同樣地，在其他條件相同時，參數增加得越多，成本就越高。

較小型的模型執行時可能需要較少的運算能力，但實際需求取決於模型和硬體。

## 小型語言模型的優點
### 小型語言模型執行速度較快、成本較低

小型語言模型的執行成本可能較低，產生輸出的速度也可能比大型模型快。實際成本和速度取決於模型、任務和硬體。

### 小型語言模型訓練速度較快、成本較低

在相近硬體條件下比較時，較小型的模型進行訓練或微調可能需要較少的運算能力。

### 有些小型語言模型可在本機裝置上執行

有些小型語言模型專為在智慧型手機、筆記型電腦或其他低耗電裝置上本機執行而設計。

- 本機處理可以省去網路往返時間，但整體回應時間取決於模型和裝置。

- 如果整個工作流程都在本機執行，本機處理可以讓輸入資料留在裝置上；請確認應用程式如何處理資料。

- 視應用程式而定，本機可用的模型可能會整合至裝置端工作流程。
## 你應該使用小型語言模型嗎？

大型語言模型和小型語言模型各有適用之處。

模型的選擇取決於任務所需的品質和可用資源。

## 使用 Ailoot 實踐本指南

透過單一 Ailoot API，將 AI 模型連接至你的應用程式、代理程式和自動化流程。選擇適合任務的模型，並依照 [Ailoot 文件](https://ailoot.ai/docs/)開始使用。


## Ailoot · 公司及其專案組合

Ailoot以累積的營運經驗、廣大的客戶群、穩定的服務及持續的KPI管理為基礎。

公司及其專案組合：數百萬客戶，每月銷售額達數十億。

Ailoot將這些營運經驗用於API存取，讓客戶的產品、代理、應用程式及自動化流程使用AI功能。
