Blog

Hỏi chuyên gia công nghệ: Suy luận là gì?

Markdown

Các chuyên gia Google giải thích suy luận AI qua một cuộc phỏng vấn đầy đủ về đối sánh mẫu, các loại mô hình, dự đoán, phân loại, đánh giá, quyền riêng tư, AI Overviews, hệ thống tác tử và hiệu quả.

Suy luận là một phần quan trọng giúp AI ngày càng có nhiều khả năng hơn. Trong cuộc phỏng vấn Google Techspert này, hai chuyên gia Google giải thích suy luận là gì và cách nó giúp các hệ thống AI tạo ra kết quả hữu ích.

Vào tháng 4, Google giới thiệu Ironwood, Bộ xử lý Tensor (TPU) thế hệ thứ bảy, được thiết kế để vận hành suy luận AI tạo sinh. TPU là các chip vận hành hệ thống AI và không phải là công nghệ mới đối với Google, nhưng thế hệ này được thiết kế để giúp các hệ thống AI vượt ra ngoài khả năng phản hồi và trở nên chủ động. Suy luận là quá trình cho phép các hệ thống AI sử dụng mô hình để tạo ra kết quả dựa trên kiến thức.

Tôi biết từ “suy luận” có nghĩa là gì — dựa trên thông tin được cung cấp, bạn có thể đi đến một kết luận nào đó. Khi nói về AI, từ này có nghĩa tương tự không?

Chuyên gia Google: Đại khái là có. Đó là cách giải thích đơn giản hóa, nhưng tôi nghĩ cách dễ hiểu nhất là xem suy luận như việc đối sánh mẫu. Theo nghĩa rộng nhất, khi nói về AI tạo sinh và suy luận, điều chúng ta muốn biết là: Các mô hình AI có thể đối sánh mẫu để dự đoán điều bạn muốn không? Ví dụ, nếu tôi nói “bơ đậu phộng và ____” rồi yêu cầu khán giả Mỹ điền vào chỗ trống, có lẽ họ sẽ nói “mứt”. Đó là một ví dụ hay về suy luận đối với các mẫu lời nói, và đó là việc suy luận AI có thể làm, nhưng nó còn vượt xa điều đó.

Chuyên gia Google: Nói chung, suy luận là cách chúng ta thực sự sử dụng mô hình để làm một việc hữu ích. Trước tiên, chúng ta phải huấn luyện mô hình: Một mô hình AI sẽ chứa các tham số mô hình, kiến trúc mô hình và cấu hình, tức là mã cần thiết để mô hình thực hiện các tác vụ — những yếu tố này kết hợp với nhau để tạo nên chức năng của mô hình. Vì vậy, suy luận cho phép chúng ta thực sự tận dụng tất cả những yếu tố đó.

Những loại mô hình AI nào sử dụng suy luận?

Chuyên gia Google: AI học sâu như mô hình ngôn ngữ, mô hình tạo hình ảnh và mô hình âm thanh đều sử dụng suy luận vì chúng dự đoán điều gì sẽ “xảy ra” dựa trên những gì đã học được từ các mẫu dữ liệu trong quá khứ.

Chuyên gia Google: Các mô hình đề xuất cũng sử dụng suy luận.

Ví dụ về mô hình đề xuất là gì?

Chuyên gia Google: Hầu hết các mô hình quảng cáo đều là mô hình đề xuất, và mô hình đề xuất video YouTube cho bạn cũng vậy. Đây là AI “truyền thống” (đôi khi được gọi là AI “cổ điển”) — không phải AI tạo sinh như LLM và các mô hình tạo hình ảnh hoặc video — vốn đã sử dụng suy luận từ lâu.

Vậy suy luận không phải điều mới mẻ đối với AI, mà chỉ ngày càng tốt hơn khi AI có thêm nhiều khả năng?

Chuyên gia Google: Đúng vậy. Và suy luận không chỉ cho phép mô hình AI dự đoán. Nó còn cho phép mô hình phân loại. Mô hình có thể gán nhãn cho sự vật dựa trên những gì nó đã học. Đây là một ví dụ nổi tiếng: Nhiều năm trước, Google đưa cho một mô hình AI một bức ảnh và hỏi liệu mô hình có thể nhận diện con mèo trong ảnh hay không. Bằng cách sử dụng dữ liệu — và suy luận — mô hình có thể tự học mèo là gì, mèo trông như thế nào và nhận diện chính xác con mèo.

Tôi nhớ chuyện đó!

Chuyên gia Google: Đó là ví dụ về một mô hình sử dụng suy luận.

Chuyên gia Google: Gần đây hơn, bạn có nhớ vài năm trước mọi người từng nói về những hình ảnh do AI tạo ra gần như phớt lờ các định luật vật lý không? Chẳng hạn, bàn tay của người thường không được thể hiện chính xác. Các mô hình ngày nay làm việc đó tốt hơn nhiều. Chúng hiểu vật lý và kết cấu tốt hơn, cùng nhiều yếu tố khác. Điều tương tự cũng đúng với dịch văn bản. Ví dụ: Trước đây, dịch ngôn ngữ dựa trên thống kê. Bản dịch có thể sử dụng được nhưng chưa thật chính xác, và chắc chắn không mang tính hội thoại. Tuy nhiên, dịch thuật thống kê đã mở đường cho dịch thuật bằng AI tạo sinh; ngày nay, nhiều người cảm thấy thoải mái khi sử dụng công nghệ này, kể cả trong các sản phẩm dành cho khách hàng của họ. Chúng ta vẫn sử dụng quy trình gọi là suy luận, nhưng AI nền tảng và năng lực tính toán của chúng ta đã được cải thiện đáng kể.

Có thể đo lường hiệu quả của suy luận không?

Chuyên gia Google: Có thể, bằng cách đo lường hiệu suất của mô hình trong một số tác vụ nhất định. Chúng ta cũng dùng suy luận để đánh giá và huấn luyện mô hình nhằm cải thiện chúng. Vì vậy, trong khi huấn luyện mô hình, chúng ta liên tục chạy suy luận để đồng thời nâng cao chất lượng mô hình.

Với các thiết lập huấn luyện như vậy, tôi nghĩ các chỉ số suy luận đang ngày càng tốt hơn theo các điểm chuẩn của ngành.

Chuyên gia Google: Đúng vậy. Nhưng cũng có câu hỏi về cảm nhận của con người — mọi người nhận thấy những điều này đã cải thiện đến mức nào? Nhìn chung, mức cải thiện khá lớn. Một điều khác mà chúng tôi thực sự quan tâm tại Google khi phát triển suy luận là quyền riêng tư: Chúng tôi cẩn trọng với những dữ liệu cần lưu trữ để các trải nghiệm này hoạt động.

Có những ví dụ nào về AI của Google cho thấy suy luận được cải thiện?

Chuyên gia Google: Một trong những trường hợp sử dụng suy luận tốt nhất của chúng tôi tại Google là AI Overviews. Bạn nhập truy vấn vào Tìm kiếm, và một hệ thống rất phức tạp phân phối truy vấn đó đến nhiều mô hình để tìm kết quả. Hệ thống sử dụng suy luận để hiểu truy vấn và xác định câu trả lời bạn muốn, rồi cuối cùng tóm tắt những gì thu thập được thành nội dung rất hữu ích. Suy luận cũng đóng vai trò thiết yếu trong nhiều công việc về hệ thống tác tử mà Google đang thực hiện. Với các tác tử, ngoài việc yêu cầu một mô hình AI cung cấp thông tin dựa trên suy luận, bạn còn có thể yêu cầu mô hình thực hiện việc cho bạn. Đây có thể xem là sự mở rộng của khái niệm suy luận như cách chúng ta từng hiểu trước đây.

Vậy suy luận ngày càng giỏi sử dụng dữ liệu, hay kiến thức, để đưa ra câu trả lời và thậm chí hành động. Nó còn thay đổi theo cách nào khác?

Chuyên gia Google: Một điều cực kỳ quan trọng là chi phí. Chúng tôi đang cố gắng làm cho suy luận có mức chi phí phải chăng nhất có thể. Giả sử chúng tôi muốn cung cấp cho mọi người một phiên bản Gemini nhỏ hơn, có chi phí phải chăng hơn. Chúng tôi sẽ cải tiến suy luận của mô hình để tìm cách thay đổi mô hình tính toán, hay phần mã cấu thành mô hình, mà không làm thay đổi ngữ nghĩa, tức là nhiệm vụ chính mà mô hình được thiết kế để thực hiện, nhằm giảm chi phí. Về cơ bản, đó là tạo ra một phiên bản mô hình nhỏ hơn, hiệu quả hơn để nhiều người có thể tiếp cận các khả năng của mô hình.

Làm thế nào để giảm chi phí?

Chuyên gia Google: Một cách là tối ưu hóa phần cứng. Đó là lý do Google sẽ ra mắt Ironwood trong năm nay. Sản phẩm được tối ưu hóa cho suy luận nhờ thiết kế ưu tiên suy luận: nhiều năng lực tính toán và bộ nhớ hơn, cùng khả năng tối ưu hóa cho một số kiểu số nhất định. Về phần mềm, Google đang cải thiện các trình biên dịch và framework. Theo thời gian, mục tiêu là giúp suy luận AI hiệu quả hơn: chất lượng tốt hơn, dấu chân tài nguyên nhỏ hơn và chi phí thấp hơn để AI có thể hữu ích.

Khám phá tài liệu API của Ailoot tại ailoot.ai/docs.