# Model bahasa kecil: saiz, kegunaan dan pertimbangan

> Inilah segala yang perlu anda ketahui tentang model bahasa kecil, termasuk perbezaannya daripada LLM, kegunaan terbaiknya dan kosnya

Source: https://ailoot.ai/blog/ms/small-language-models-size-uses-and-tradeoffs/
Canonical: https://ailoot.ai/blog/ms/small-language-models-size-uses-and-tradeoffs/
Language: ms
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100060
Revision: sha256-3de135af52544d2d3a761a104b10006d3d933d8391a380f9789de7f9698354b5


## Apakah model bahasa kecil?
Walaupun LLM yang paling canggih terus menjadi lebih besar dan berkuasa, masih terdapat model bahasa besar yang lebih kecil—atau model bahasa kecil—yang lebih daripada mampu berfungsi dengan berkesan dalam situasi sebenar. Itu belum mengambil kira kos untuk menjalankan model bahasa besar. Dalam kebanyakan kes, anda patut menggunakan model bahasa terkecil yang dapat melaksanakan tugas yang anda perlukan dengan andal, bukannya model terbesar yang boleh anda gunakan.

Jadi, mari kita lihat model bahasa kecil, perbezaannya daripada model bahasa besar dan kegunaannya.
## SLM berbanding LLM: Apakah model bahasa kecil?

Model bahasa kecil (SLM) ialah model bahasa yang lebih kecil daripada model bahasa besar semasa. Label ini menerangkan saiz secara relatif, bukannya menetapkan sempadan yang tetap.

## SLM dan penggunaan sumber

Menambah lebih banyak parameter juga ada kosnya. Sekali lagi, jika semua faktor lain sama, semakin banyak parameter yang ditambah, semakin tinggi kosnya.

Model yang lebih kecil mungkin memerlukan kapasiti pengkomputeran yang lebih rendah untuk dijalankan, walaupun keperluan sebenar bergantung pada model dan perkakasan.

## Kelebihan model bahasa kecil
### Model bahasa kecil lebih pantas dan lebih murah untuk dijalankan

Model bahasa yang lebih kecil mungkin lebih murah untuk dijalankan dan menghasilkan output lebih pantas daripada model yang lebih besar. Kos dan kelajuan sebenar bergantung pada model, tugas dan perkakasan.

### Model bahasa kecil lebih pantas dan lebih murah untuk dilatih

Berbanding pada perkakasan yang serupa, model yang lebih kecil mungkin memerlukan kapasiti pengkomputeran yang lebih rendah untuk dilatih atau ditala halus.

### Sesetengah model bahasa kecil boleh dijalankan pada peranti tempatan

Sesetengah model bahasa kecil direka untuk dijalankan secara tempatan pada telefon pintar, komputer riba atau peranti lain yang berkuasa rendah.

- Pemprosesan tempatan boleh mengelakkan perjalanan pergi balik melalui rangkaian, walaupun jumlah masa tindak balas bergantung pada model dan peranti.

- Pemprosesan tempatan boleh mengekalkan input pada peranti apabila keseluruhan aliran kerja berjalan secara tempatan; sahkan cara aplikasi mengendalikan data.

- Model yang tersedia secara tempatan mungkin disepadukan dengan aliran kerja pada peranti, bergantung pada aplikasi.
## Patutkah anda menggunakan model bahasa kecil?

Model bahasa besar dan model bahasa kecil masing-masing mempunyai kegunaan tersendiri.

Pemilihan model bergantung pada kualiti yang diperlukan oleh sesuatu tugas dan sumber yang tersedia.

## Gunakan panduan ini dengan Ailoot

Sambungkan model AI kepada aplikasi, ejen dan automasi anda melalui satu API Ailoot. Pilih model yang sesuai dengan tugas anda dan ikuti [dokumentasi Ailoot](https://ailoot.ai/docs/) untuk bermula.


## Ailoot · Syarikat dan portfolio projeknya

Ailoot berteraskan pengalaman operasi yang mantap, pangkalan pelanggan yang besar, perkhidmatan yang stabil dan pemantauan KPI berterusan.

Syarikat dan portfolio projeknya: jutaan pelanggan; jualan bernilai berbilion setiap bulan.

Ailoot menggunakan pengalaman operasi ini untuk akses API kepada ciri AI dalam produk pelanggan, ejen, aplikasi dan automasi.
