Blog

Tanya pakar teknologi: Apakah itu inferens?

Markdown

Pakar Google menerangkan inferens AI melalui wawancara penuh yang merangkumi padanan corak, jenis model, ramalan, pengelasan, penilaian, privasi, AI Overviews, sistem beragen dan kecekapan.

Inferens ialah bahagian penting yang menjadikan AI lebih berkebolehan. Dalam wawancara Google Techspert ini, dua pakar Google menerangkan maksud inferens dan cara inferens membantu sistem AI menghasilkan output yang berguna.

Pada bulan April, Google memperkenalkan Ironwood, Unit Pemprosesan Tensor (TPU) generasi ketujuhnya, yang direka untuk menggerakkan inferens AI generatif. TPU ialah cip yang menggerakkan sistem AI dan bukan perkara baharu bagi Google, tetapi generasi ini direka untuk membantu sistem AI beralih daripada sekadar memberikan respons kepada mengambil inisiatif. Inferens ialah proses yang membolehkan sistem AI menggunakan model untuk menghasilkan output berasaskan pengetahuan.

Saya tahu maksud perkataan inferens — berdasarkan maklumat yang diberikan kepada anda, anda boleh membuat semacam kesimpulan. Adakah maksudnya sama dalam konteks AI?

Pakar Google: Lebih kurang, ya. Itu penyederhanaan, tetapi saya rasa cara paling mudah untuk memahami inferens ialah sebagai padanan corak. Dalam erti kata yang paling luas, apabila kita bercakap tentang AI generatif dan inferens, soalan kita ialah: Bolehkah model AI memadankan corak untuk meramalkan perkara yang anda mahukan? Contohnya, jika saya berkata “mentega kacang dan ____” dan meminta khalayak Amerika melengkapkan tempat kosong itu, mereka mungkin akan menjawab “jem.” Itu contoh yang baik bagi inferens untuk corak pertuturan, dan itu sesuatu yang boleh dilakukan oleh inferens AI, tetapi keupayaannya jauh lebih luas.

Pakar Google: Secara umum, inferens ialah cara kita menggunakan model untuk melakukan sesuatu yang berguna. Mula-mula, kita perlu melatih model itu: Model AI mengandungi parameter model, seni bina model dan konfigurasi, iaitu kod yang diperlukan untuk melaksanakan tugas — dan semua ini bergabung untuk menjalankan fungsinya. Jadi, inferens membolehkan kita menggunakan semua itu.

Apakah jenis model AI yang menggunakan inferens?

Pakar Google: AI pembelajaran mendalam seperti model bahasa, model penjanaan imej dan model audio semuanya menggunakan inferens kerana model-model ini membuat ramalan tentang perkara yang akan “berlaku” berdasarkan corak data terdahulu yang telah dipelajarinya.

Pakar Google: Model pengesyoran juga menggunakan inferens.

Apakah contoh model pengesyoran?

Pakar Google: Kebanyakan model iklan ialah model pengesyoran, begitu juga model yang mengesyorkan video YouTube kepada anda. AI ini bersifat “tradisional” (kadangkala disebut “klasik”) — bukan AI generatif seperti LLM serta model penjanaan imej atau video — dan telah lama menggunakan inferens.

Jadi, inferens bukan perkara baharu dalam AI, cuma semakin baik apabila AI semakin berkebolehan?

Pakar Google: Ya. Inferens bukan sahaja membolehkan model AI membuat ramalan, malah membolehkan model mengelaskan sesuatu. Model boleh melabelkan perkara berdasarkan apa yang telah dipelajarinya. Ini contoh yang terkenal: Bertahun-tahun lalu, Google memberikan sebuah model AI gambar dan bertanya sama ada model itu dapat mengenal pasti kucing dalam gambar tersebut. Dengan menggunakan data — dan inferens — model itu dapat mempelajari sendiri maksud kucing dan rupanya, lalu mengenal pasti kucing itu dengan betul.

Saya ingat perkara itu!

Pakar Google: Itu contoh model yang menggunakan inferens.

Pakar Google: Baru-baru ini, adakah anda ingat beberapa tahun lalu apabila orang bercakap tentang imej ciptaan AI yang pada asasnya mengabaikan hukum fizik? Tangan manusia, contohnya, sering tidak digambarkan dengan betul. Model masa kini melakukannya dengan jauh lebih baik. Model-model ini lebih baik dari segi fizik dan tekstur, antara perkara lain. Hal yang sama juga berlaku untuk terjemahan teks. Contohnya, terjemahan bahasa dahulu bersifat statistik. Terjemahan itu boleh digunakan tetapi tidak begitu tepat, dan sudah tentu tidak bersifat perbualan. Namun, terjemahan statistik membawa kita kepada terjemahan AI generatif, yang kini selesa digunakan oleh ramai orang, termasuk dalam produk yang berhadapan dengan pelanggan. Kita masih menggunakan proses yang dipanggil inferens, tetapi AI yang mendasarinya dan kapasiti pengkomputeran kita telah meningkat dengan ketara.

Bolehkah kita mengukur sejauh mana inferens berfungsi?

Pakar Google: Kita boleh mengukurnya dengan menilai prestasi model dalam tugas tertentu. Kita juga menggunakan inferens untuk menilai dan melatih model supaya model itu menjadi lebih baik. Jadi, semasa kita melatih model, kita terus menjalankan inferens untuk cuba meningkatkan kualiti model secara serentak.

Saya rasa latihan seperti ini menyebabkan tahap inferens semakin baik mengikut penanda aras industri.

Pakar Google: Ya. Namun, terdapat juga persoalan tentang persepsi manusia — sejauh mana kita semua menyedari peningkatan ini? Secara umumnya, peningkatannya agak besar. Satu lagi perkara yang benar-benar kami utamakan di Google semasa mengusahakan inferens ialah privasi: Kami berhati-hati tentang perkara yang perlu kami simpan supaya pengalaman ini dapat berfungsi.

Apakah beberapa contoh AI Google yang menunjukkan inferens semakin baik?

Pakar Google: Salah satu kes penggunaan inferens terbaik kami di Google ialah AI Overviews. Anda menaip pertanyaan dalam Search, kemudian sistem yang sangat kompleks membahagikan tugas itu kepada beberapa model untuk mendapatkan hasil. Sistem itu menggunakan inferens untuk memahami pertanyaan anda dan mengetahui jawapan yang anda mahukan, lalu merumuskan perkara yang dipelajarinya menjadi sesuatu yang sangat berguna. Inferens juga penting bagi banyak usaha berasaskan ejen yang dilakukan Google. Dengan ejen, selain meminta model AI menyampaikan maklumat berdasarkan inferensnya, anda boleh memintanya melakukan sesuatu untuk anda. Ini seakan-akan peluasan daripada pemahaman kita tentang inferens sebelum ini.

Jadi, inferens semakin baik dalam menggunakan data atau pengetahuan untuk memberikan jawapan dan malah mengambil tindakan. Apakah perubahan lain yang berlaku?

Pakar Google: Satu perkara yang sangat penting ialah kos. Kami cuba menjadikan inferens semampu mungkin. Katakan kami cuba menyediakan versi Gemini yang lebih kecil dan lebih mampu milik kepada orang ramai. Kami akan mengusahakan inferens model itu untuk mencari cara mengubah paradigma pengkomputeran, atau kod yang membentuk model tersebut, tanpa mengubah semantik atau tugas utama yang sepatutnya dilaksanakan, demi mengurangkan kos. Pada asasnya, kami menjadikan model itu lebih kecil dan cekap supaya lebih ramai orang dapat mengakses keupayaannya.

Bagaimanakah kita dapat mengurangkan kos?

Pakar Google: Salah satu caranya ialah mengoptimumkan perkakasan. Itulah sebabnya Google akan melancarkan Ironwood pada tahun ini. Reka bentuknya yang mengutamakan inferens menjadikan cip itu dioptimumkan untuk inferens: kuasa pengkomputeran dan memori yang lebih besar, serta pengoptimuman untuk jenis angka tertentu. Dari segi perisian, Google sedang menambah baik pengkompil dan rangka kerjanya. Lama-kelamaan, matlamatnya ialah menjadikan inferens AI lebih cekap: kualiti yang lebih baik dengan jejak penggunaan sumber yang lebih kecil dan kos yang lebih rendah, supaya ia berguna.

Terokai dokumentasi API Ailoot di ailoot.ai/docs.