# Penjelasan tentang model bahasa kecil

> Apa yang membuat model bahasa berukuran kecil, arti parameter dan parameter efektif, alasan model kecil dapat berjalan di ponsel, serta kemampuan yang harus dikorbankan.

Source: https://ailoot.ai/blog/id/small-language-models-explained/
Canonical: https://ailoot.ai/blog/id/small-language-models-explained/
Language: id
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100072
Revision: sha256-3e9b40add6218edb670ca3b6f44ad7de3170e7c879f600caf0ab8109a2958a84


## Apa itu model bahasa kecil?

Model bahasa kecil (SLM) adalah model bahasa yang cukup ringkas untuk dijalankan pada perangkat keras sehari-hari, seperti ponsel atau laptop, alih-alih pusat data. Belum ada batas yang disepakati: model dengan beberapa miliar parameter atau kurang biasanya disebut kecil, dan sebuah survei tahun 2024 menggunakan rentang 100 juta hingga 5 miliar.

Model bahasa kecil dan besar bekerja dengan cara yang sama. Keduanya adalah jaringan saraf, hampir selalu transformer, yang dilatih untuk memprediksi token teks berikutnya; keduanya juga disesuaikan setelah prapelatihan agar mengikuti instruksi. Survei di atas membahas transformer decoder-only yang persis seperti ini. Perbedaannya adalah skala. Model seukuran ponsel memiliki beberapa miliar parameter, sedangkan model cloud terdepan jauh lebih besar, sehingga model kecil menyimpan lebih sedikit pengetahuan dan memiliki kapasitas penalaran yang lebih terbatas (lihat “Apa keterbatasan model kecil?”). Model kecil memungkinkan AI di perangkat digunakan secara praktis.

Ukuran bukan satu-satunya faktor yang menentukan kualitas. Karena itu, kualitas model kecil sama bergantungnya pada pelatihan seperti pada ukurannya. Model dapat belajar dari model yang lebih besar melalui distilasi, yaitu pelatihan agar model meniru keluaran model yang lebih besar, dan mendapat manfaat dari data yang dipilih dengan cermat: phi-1, model kode dengan 1,3 miliar parameter yang sebagian besar dilatih menggunakan data “berkualitas seperti buku teks”, mencapai 50,6% pass@1 pada tolok ukur pemrograman HumanEval.

## Apa arti “parameter” dan “parameter efektif”?

Parameter adalah angka yang dipelajari model selama pelatihan, dan jumlahnya merupakan ukuran yang lazim digunakan untuk menyatakan ukuran model: “1.7B” pada Qwen3 1.7B berarti sekitar 1,7 miliar. “Parameter efektif”, yaitu huruf “E” pada Gemma 4 E2B dan E4B dari Google, menghitung parameter yang digunakan model dalam komputasi dan tidak menyertakan tabel embedding besar yang hanya digunakan untuk pencarian.

Sebagian besar parameter berada dalam matriks bobot lapisan perhatian dan feed-forward transformer, yang dilalui setiap token. Blok terpisah, yaitu embedding, memetakan setiap token dalam kosakata ke sebuah vektor; pada model kecil, bagian ini dapat mencakup porsi besar dari total parameter. Tabel embedding Qwen3 1.7B memiliki 151,936 baris (kosakata yang dikonfigurasi, dengan padding sehingga melebihi 151,669 entri tokenizer) dan 2,048 dimensi, atau sekitar 311 juta parameter embedding. Angka ini sesuai dengan kartu modelnya, yang mencantumkan total 1,7 miliar parameter dan 1,4 miliar parameter di luar embedding 7. Studi penskalaan sering kali hanya menghitung parameter non-embedding.

Seri E Gemma 4 mengembangkan gagasan ini lebih jauh. Kartu model Google menjelaskan bahwa “‘E’ dalam E2B dan E4B adalah singkatan dari ‘effective’”: model menggunakan Per-Layer Embeddings (PLE), yang memberikan “embedding kecilnya sendiri untuk setiap token pada setiap lapisan decoder”, dan “Tabel embedding ini berukuran besar, tetapi hanya digunakan untuk pencarian cepat. Karena itu, jumlah parameter efektif jauh lebih kecil daripada jumlah totalnya” 8. Kartu tersebut mencantumkan Gemma 4 E2B dengan 2,3 miliar parameter efektif dan 5,1 miliar termasuk embedding; E4B memiliki 4,5 miliar parameter efektif dan 8 miliar termasuk embedding.

Perbedaan ini penting di ponsel karena pencarian membutuhkan memori, tetapi hanya sedikit komputasi, dan runtime dapat menyimpan tabel tersebut di penyimpanan. “Efektif” juga berbeda dari “aktif”: Gemma 4 26B A4B adalah model mixture-of-experts dengan 25,2 miliar parameter, dengan 3,8 miliar di antaranya aktif saat inferensi 8.

## Mengapa model kecil dapat berjalan di ponsel?

Bobot model membutuhkan kira-kira jumlah parameternya dikalikan jumlah bit yang disimpan per parameter, lalu dibagi delapan. Pada 4 bit, 1,7 miliar parameter membutuhkan sekitar 0,85 GB, sehingga masih ada ruang untuk Android dan aplikasi lain di ponsel dengan RAM 4 GB.

Jumlah parameter dan presisi adalah dua faktor penentunya. Gambar 1 menguraikan perhitungan untuk Qwen3 1.7B, dari floating point 32-bit hingga berkas model 4-bit.

<figure id="la-fit">
<ol>
<li><strong>Disimpan sebagai bilangan floating point 32-bit, 1,7 miliar parameter membutuhkan 6,8 GB.</strong></li>
<li><strong>Pada 16 bit, ukurannya 3,4 GB.</strong></li>
<li><strong>Pada 8 bit, ukurannya 1,7 GB.</strong> Setiap pengurangan separuh jumlah bit per bobot mengurangi separuh memori yang dibutuhkan bobot.</li>
<li><strong>Pada 4 bit, ukurannya sekitar 0,85 GB.</strong> Setengah byte per bobot membuat model sebesar ini praktis digunakan di ponsel 4 GB.</li>
<li><strong>Berkas model 4-bit dapat lebih besar daripada bobot mentahnya.</strong> Skala blok dan data tersimpan lainnya menambah ukurannya.</li>
</ol>
<figcaption>Gambar 1. Memori yang dibutuhkan untuk menyimpan bobot Qwen3 1.7B dalam gigabita desimal. Batang biru dihitung sebagai jumlah parameter × bit ÷ 8 untuk 1,7 miliar parameter dan hanya menghitung bobot; model yang sedang berjalan juga membutuhkan memori untuk cache key–value dan runtime. Batang oranye adalah berkas model yang diunduh.</figcaption>
</figure>

| Presisi | Bit per parameter | Perkiraan memori bobot |
|---|---:|---:|
| Floating point 32-bit | 32 | 6,8 GB |
| Floating point 16-bit | 16 | 3,4 GB |
| Integer 8-bit | 8 | 1,7 GB |
| Integer 4-bit | 4 | 0,85 GB |

Karena alasan ini, model seukuran ponsel menggabungkan beberapa miliar parameter dengan bobot 4-bit atau presisi campuran; kuantisasi mengurangi ruang penyimpanan yang dibutuhkan bobot.

Bobot bukan seluruh jejak memori. Model yang sedang berjalan juga memerlukan memori untuk cache key–value, yang ukurannya bertambah seiring panjang jendela konteks, serta untuk runtime itu sendiri. Kecepatannya mengikuti perhitungan yang sama: setiap token baru mengharuskan bobot model dibaca dari memori, sehingga jumlah bobot yang lebih sedikit dan lebih kecil menghasilkan jawaban lebih cepat pada ponsel yang sama.

## Apa yang dapat dilakukan model kecil dengan baik?

Model kecil cocok untuk tugas yang informasinya tersedia dalam prompt atau termasuk pengetahuan umum: menulis ulang, merangkum, menyusun draf, menjelaskan, dan menjawab berdasarkan bagian teks yang diberikan. Karena berjalan di perangkat, model juga dapat menjawab tanpa koneksi jaringan dan tanpa mengirim prompt ke server.

Kartu model Google menyebut keluarga Gemma 4 “cocok untuk penalaran, alur kerja agentik, pemrograman, dan pemahaman multimodal”; E2B dan E4B menerima masukan teks, gambar, dan audio 8. Ini adalah deskripsi dan hasil tolok ukur dari pengembangnya; kinerja tugas tertentu di ponsel tertentu tetap perlu diuji.

Memberikan teks yang tepat membantu mengatasi hal-hal yang tidak diketahui model kecil. Retrieval-augmented generation menambahkan bagian teks yang diambil saat pertanyaan diajukan, sehingga model menggunakan sumber, bukan ingatannya. Model kecil juga memiliki biaya operasional yang mudah diprediksi: tidak ada biaya server per pertanyaan, tidak ada antrean, dan setelah diunduh tidak bergantung pada koneksi.

## Apa keterbatasan model kecil?

Model kecil menyimpan lebih sedikit pengetahuan, lebih lemah dalam penalaran panjang atau bertahap, dan kurang mampu menangani konteks panjang dibandingkan model besar. Seperti semua model bahasa, model kecil juga dapat menyatakan hal yang salah dengan lancar.

Pola ini terlihat dalam satu keluarga model yang sama. Pada kartu model Google, Gemma 4 E2B mendapat skor 60,0% pada tolok ukur pengetahuan dan penalaran MMLU Pro, sedangkan E4B mendapat 69,4%, dibandingkan 85,2% untuk model Gemma 4 dengan 31 miliar parameter. Pada GPQA Diamond, kumpulan pertanyaan sains tingkat pascasarjana, skornya adalah 43,4%, 58,6%, dan 84,3% 8. Ini adalah hasil Google untuk modelnya sendiri.

Model kecil juga dapat terjebak mengulang-ulang. Kartu model Qwen memperingatkan bahwa decoding greedy “dapat menyebabkan penurunan kinerja dan pengulangan tanpa akhir” 7.

## Mengapa model kecil meniru bentuk instruksinya?

Model kecil cenderung meniru bentuk prompt sekaligus mengikuti isinya, sehingga prompt sistem yang panjang dan terstruktur dapat membuat setiap jawaban memiliki struktur serupa.

Sebuah prompt yang meminta model untuk “mendahulukan jawaban langsung, lalu detail yang berguna” menghasilkan jawaban dengan label tebal “Jawaban Langsung:” dan “Detail Berguna:”. Instruksi itu dimaksudkan sebagai saran tentang isi, tetapi model menganggapnya sebagai templat.

## Bagaimana mode berpikir bekerja pada model kecil?

Mode berpikir membuat model menuliskan penalaran antara sebelum jawaban akhirnya, dengan menghabiskan lebih banyak waktu dan token untuk hasil yang lebih cermat pada masalah bertahap. Qwen3 dan Gemma 4 sama-sama menyediakan fitur ini sebagai sakelar di dalam satu model, bukan sebagai model penalaran terpisah.

Gagasan ini berasal dari prompting chain-of-thought. Model kecil yang lebih baru dilatih untuk bernalar; dalam kasus Qwen3, sebagian prosesnya dilakukan dengan belajar dari model-modelnya yang lebih besar.

Sakelarnya merupakan bagian dari prompt. Secara default, Qwen3 1.7B menggunakan mode berpikir dan menuliskan penalarannya di dalam blok `<think>…</think>`; pengembang menonaktifkan mode berpikir dengan pengaturan `enable_thinking`, sedangkan pengguna dapat menambahkan `/think` atau `/no_think` ke pesan untuk mengubah mode dari satu giliran ke giliran berikutnya 7. Gemma 4 mengaktifkan mode berpikir ketika prompt sistemnya diawali token `<|think|>` 8.

Berpikir membutuhkan waktu dan ruang konteks karena token penalaran merupakan bagian dari keluaran model dan menggunakan jendela yang sama. Jika model diatur untuk menampilkan penalarannya, penalaran itu muncul sebelum jawaban; perilakunya bergantung pada model dan aplikasinya.

## Apa perbedaan Qwen3 1.7B, Gemma 4 E2B, dan Gemma 4 E4B?

Ketiganya berbeda dalam ukuran, masukan, dan panjang konteks. Qwen3 1.7B memiliki 1,7 miliar parameter dan hanya menerima teks; Google mencantumkan Gemma 4 E2B dan E4B masing-masing dengan 2,3 dan 4,5 miliar parameter efektif, serta masukan teks, gambar, dan audio. Ketiganya dirilis dengan lisensi Apache 2.0.

|  | Qwen3 1.7B | Gemma 4 E2B | Gemma 4 E4B |
|---|---|---|---|
| Pengembang | Alibaba (tim Qwen) | Google DeepMind | Google DeepMind |
| Parameter | 1.7B, dengan 1.4B di luar embedding | 2.3B efektif, 5.1B termasuk embedding | 4.5B efektif, 8B termasuk embedding |
| Lapisan | 28 | 35 | 42 |
| Panjang konteks | 32,768 token | 128K token | 128K token |
| Masukan | Teks | Teks, gambar, audio | Teks, gambar, audio |
| Mode berpikir | Ya, aktif secara default | Ya | Ya |
| Lisensi | Apache 2.0 | Apache 2.0 | Apache 2.0 |

Tabel 1. Spesifikasi yang dipublikasikan dalam kartu model Qwen3-1.7B dari Qwen dan kartu model Gemma 4 dari Google, diperiksa pada 5 Oktober 2026 7 8.



## Referensi

7. Qwen. “Qwen3-1.7B.” Kartu model dan konfigurasi, Hugging Face. Diakses pada 5 Oktober 2026. [huggingface.co/Qwen/Qwen3-1.7B](https://huggingface.co/Qwen/Qwen3-1.7B)
8. Google DeepMind. “Kartu model Gemma 4.” Google AI for Developers. Diakses pada 5 Oktober 2026. [ai.google.dev/gemma/docs/core/model_card_4](https://ai.google.dev/gemma/docs/core/model_card_4)

## Terapkan panduan ini dengan Ailoot

Hubungkan model AI ke aplikasi, agen, dan otomatisasi Anda melalui satu API Ailoot. Pilih model yang sesuai dengan tugas Anda dan ikuti [dokumentasi Ailoot](https://ailoot.ai/docs/) untuk memulai.

## Ailoot · Perusahaan dan portofolio proyeknya

Ailoot bertumpu pada pengalaman operasional yang teruji, basis pelanggan yang besar, layanan yang stabil, dan pemantauan KPI berkelanjutan.

Perusahaan dan portofolio proyeknya: jutaan pelanggan; penjualan miliaran setiap bulan.

Ailoot memanfaatkan pengalaman operasional ini untuk akses API ke fitur AI dalam produk pelanggan, agen, aplikasi, dan otomatisasi.
