Suy luận là gì?
MarkdownTìm hiểu suy luận AI là gì, cách suy luận theo lô, tại biên, thời gian thực và truyền phát hoạt động, cũng như cách các nhóm xử lý những thách thức về độ chính xác, hiệu năng và chi phí.
Suy luận (AI) là gì?
Suy luận là quá trình mô hình trí tuệ nhân tạo tạo ra dự đoán hoặc đầu ra từ dữ liệu mới. Sau khi được huấn luyện, mô hình AI đã học được các tham số và biểu diễn. Khi nhận dữ liệu mới, mô hình sử dụng chúng để tạo đầu ra. Suy luận diễn ra trong giai đoạn chạy hoặc triển khai ứng dụng AI và hỗ trợ nhiều trường hợp sử dụng trong thực tế.
Vì sao suy luận quan trọng?
Suy luận AI là quá trình tạo đầu ra từ dữ liệu chưa từng thấy. Sau khi học được các mẫu tổng quát từ tập dữ liệu huấn luyện, mô hình áp dụng những mẫu đó vào dữ liệu mới.
Ví dụ, một mô hình AI có thể được huấn luyện bằng các ảnh quét y tế được chuyên gia y tế chú thích. Trong quá trình huấn luyện, mô hình học các dấu hiệu trực quan và mối liên hệ trong dữ liệu. Sau đó, thông qua suy luận, mô hình có thể xác định các khối u hoặc bất thường tiềm ẩn trong ảnh quét mới. Chuyên gia y tế có thể đánh giá độ chính xác của quá trình này bằng cách đưa ra kết luận từ chính những ảnh quét đó.
So với các kỹ thuật phân tích truyền thống, trong đó con người xác định quy tắc và chọn kỹ thuật thống kê, việc huấn luyện mô hình cho phép mô hình phát hiện những mẫu phức tạp khó mã hóa thủ công. Các mẫu này hình thành từ những tham số của mô hình. Suy luận áp dụng chúng vào dữ liệu mới.
Các loại suy luận máy học là gì?
Có một số loại suy luận máy học (ML).
Suy luận theo lô
Suy luận theo lô đưa ra dự đoán bằng cách sử dụng nhóm gồm nhiều đầu vào dữ liệu. Phương pháp này hữu ích trong các ứng dụng không bị giới hạn về thời gian và có thể chờ đầu ra. Ví dụ, một ứng dụng AI tạo sinh dùng cho phân tích kinh doanh có thể xử lý các bản cập nhật mỗi giờ một lần thay vì theo thời gian thực.
Suy luận tại biên
Suy luận AI tại biên chạy mô hình trên thiết bị của người dùng hoặc gần nguồn dữ liệu. Vì dữ liệu không cần gửi đến một trung tâm tập trung để xử lý, suy luận tại biên có thể giảm độ trễ mạng. Phương pháp này hữu ích ở những địa điểm xa xôi có kết nối hạn chế hoặc trên các thiết bị cần suy luận. Tốc độ xử lý phụ thuộc vào thiết bị và độ trễ của mô hình.
Suy luận thời gian thực
Suy luận thời gian thực tạo đầu ra ngay lập tức để phản hồi các yêu cầu đầu vào. Mô hình nhận dữ liệu từ đầu vào của người dùng hoặc các nguồn dữ liệu được kết nối, từ đó phát sinh nhu cầu tạo đầu ra tức thì. Suy luận thời gian thực dựa vào các hệ thống AI có độ trễ thấp và thường được dùng trong các hệ thống có yêu cầu thời gian nghiêm ngặt. Ví dụ, xe tự hành sử dụng phương pháp này để hỗ trợ đưa ra quyết định kịp thời.
Suy luận truyền phát
Suy luận truyền phát sử dụng một đường ống dữ liệu liên tục cung cấp thông tin cho mô hình, mô hình này tạo đầu ra theo thời gian thực. Tương tự suy luận thời gian thực, phương pháp này phản hồi dữ liệu đến, nhưng liên tục tạo đầu ra dựa trên luồng đầu vào. Suy luận thời gian thực phản hồi đầu vào của người dùng hoặc yêu cầu trực tiếp, còn suy luận truyền phát xử lý luồng dữ liệu mới liên tục.
Suy luận hoạt động như thế nào?
Một số công nghệ và hệ thống dữ liệu phối hợp với nhau để cung cấp hạ tầng cho suy luận AI.
Hạ tầng mô hình máy học
Suy luận AI có thể thực hiện sau khi mô hình đã được huấn luyện. Trước khi triển khai, mô hình có thể trải qua quá trình huấn luyện, tinh chỉnh, xác thực và tối ưu hóa suy luận.
Một mô hình đã huấn luyện trong môi trường sản xuất có thể cần năng lực tính toán đáng kể từ các bộ xử lý đồ họa (GPU), bộ xử lý trung tâm (CPU) và bộ tăng tốc AI chuyên dụng như AWS Inferentia. Tài nguyên tính toán cũng cần có dung lượng lưu trữ, mạng và đường ống dữ liệu.
Đầu vào của người dùng và tiền xử lý dữ liệu
Dữ liệu có thể cần được tiền xử lý trước khi đưa vào mô hình. Ví dụ, mô hình thị giác có thể sử dụng chuẩn hóa, còn mô hình ngôn ngữ lớn (LLM) có thể sử dụng phân tách token. Dữ liệu cũng có thể được làm sạch để nâng cao chất lượng.
Quy trình suy luận
Quy trình suy luận tiếp nhận dữ liệu sạch và thực hiện một lượt truyền tiến, đưa dữ liệu đã tiền xử lý qua các lớp của mô hình để tạo đầu ra. Quy trình này bao gồm một chuỗi phép tính.
Tạo đầu ra và hậu xử lý
Sau lượt truyền tiến, mô hình tạo đầu ra dựa trên các mẫu đã học từ dữ liệu huấn luyện.
Hậu xử lý có thể quét, lọc và định dạng đầu ra theo các rào chắn và chính sách. Ví dụ, rào chắn có thể giúp ngăn lời lẽ tục tĩu hoặc nội dung gây hại, còn việc định dạng có thể điều chỉnh đầu ra theo giọng điệu thương hiệu của doanh nghiệp.
Những thách thức của suy luận đối với mô hình AI là gì?
Một số thách thức có thể ảnh hưởng đến khả năng suy luận của mô hình AI.
Trôi dạt mô hình
Trôi dạt mô hình xảy ra khi mô hình giảm hiệu quả theo thời gian vì dữ liệu trong thực tế thay đổi so với dữ liệu mà mô hình được huấn luyện. Trôi dạt dữ liệu xảy ra khi các mẫu trong dữ liệu đầu vào dịch chuyển. Nếu trọng số của mô hình vẫn cố định theo dữ liệu huấn luyện trước đó, những thay đổi này có thể khiến đầu ra không chính xác.
Trôi dạt khái niệm xảy ra khi mối quan hệ giữa đầu vào và đầu ra của mô hình thay đổi hoặc trở nên phức tạp hơn. Ví dụ, một mô hình AI được huấn luyện để nhận diện email lừa đảo sử dụng các mẫu đã học để đưa ra dự đoán. Nếu công nghệ mới làm thay đổi cách thực hiện hành vi lừa đảo, đầu ra của mô hình có thể kém chính xác hơn. Có thể cần huấn luyện lại để thích ứng với những thay đổi đó.
Trong cả hai trường hợp, mô hình từng hoạt động tốt có thể bắt đầu đưa ra câu trả lời kém chính xác hơn hoặc sai.
Tốc độ và hiệu năng
Triển khai mô hình AI ở quy mô lớn đòi hỏi hạ tầng có khả năng cung cấp đầu ra một cách đáng tin cậy. Các tổ chức có thể cần bộ xử lý đồ họa, độ trễ thấp, tốc độ mạng cao và thêm các bộ xử lý hiệu năng cao cho những mô hình phức tạp.
Các cách khác để cải thiện tốc độ và hiệu năng gồm tinh chỉnh kiến trúc hạ tầng, sử dụng phần cứng chuyên dụng và áp dụng các kỹ thuật tối ưu hóa suy luận như lượng tử hóa để giảm kích thước mô hình.
Lựa chọn một phương pháp suy luận khác, chẳng hạn như suy luận theo lô, có thể cải thiện hiệu năng cho những trường hợp sử dụng cụ thể.
Chi phí
Việc chạy khối lượng công việc suy luận có thể dẫn đến chi phí ngoài dự kiến. Ở quy mô lớn hoặc trong nhiều bối cảnh khác nhau, năng lực tính toán và số lượng yêu cầu suy luận có thể làm tăng chi phí. Các tổ chức có thể quản lý chi phí bằng những chiến lược như giảm kích thước mô hình, xử lý song song và sử dụng hạ tầng đám mây tự động mở rộng cho suy luận trực tuyến.
Các phương pháp tốt nhất để cải thiện độ chính xác và tính hữu ích của AI
Việc cải thiện độ chính xác và tính hữu ích của suy luận AI một phần phụ thuộc vào quy trình huấn luyện và tối ưu hóa. Những phương pháp này có thể giúp ích.
Đầu tư vào chất lượng dữ liệu
Chất lượng của tập dữ liệu huấn luyện ảnh hưởng trực tiếp đến khả năng đưa ra dự đoán về dữ liệu mới và tạo đầu ra hữu ích của mô hình. Dữ liệu chất lượng cao, được gắn nhãn tốt, nhất quán và không có nhiễu có thể cải thiện khả năng nhận diện mẫu của mô hình. Hãy thiết lập các quy trình nghiêm ngặt để chuẩn bị dữ liệu, bao gồm làm sạch, xác thực, chuẩn hóa và xử lý các điểm không nhất quán.
Sử dụng nhân sự có chuyên môn
Khi có thể, hãy huy động những người có chuyên môn về huấn luyện mô hình và kiến trúc của ngăn xếp công nghệ mà bạn dự định sử dụng. Chuyên gia trong lĩnh vực có thể giúp chú thích dữ liệu, giúp dữ liệu có chất lượng cao hơn và toàn diện hơn. Huấn luyện mô hình bằng dữ liệu chất lượng cao có thể cải thiện độ chính xác của đầu ra.
Đưa khả năng giải thích vào để tuân thủ
Đầu ra suy luận cần có khả năng giải thích. Các kỹ thuật giải thích có thể giúp chỉ ra những đặc trưng đầu vào nào đã ảnh hưởng đến một đầu ra cụ thể. Các loại mô hình ML khác nhau sử dụng những kỹ thuật khác nhau. Chẳng hạn, Shapley Additive exPlanations (SHAP) có thể áp dụng cho mọi mô hình và phù hợp nhất với mô hình dựa trên cây, mô hình tuyến tính và mạng nơ-ron. Khả năng giải thích cũng có thể giúp các tổ chức đáp ứng các khuôn khổ tuân thủ AI, bao gồm quyền được giải thích theo GDPR đối với các quyết định do AI đưa ra.
AWS có thể hỗ trợ suy luận AI như thế nào?
AWS mô tả các dịch vụ và hạ tầng được thiết kế chuyên biệt cho những giai đoạn khác nhau trong vòng đời của máy học và mô hình AI.
Amazon SageMaker AI cung cấp môi trường máy học để xây dựng, huấn luyện, tối ưu hóa, kiểm thử và quản trị các mô hình tùy chỉnh.
Amazon SageMaker AI là dịch vụ được quản lý toàn phần, cung cấp các công cụ máy học cho nhiều trường hợp sử dụng. Dịch vụ hỗ trợ xây dựng, huấn luyện và triển khai mô hình ở quy mô lớn với các công cụ như sổ tay, trình gỡ lỗi, trình phân tích hiệu năng, đường ống và MLOps trong một môi trường phát triển tích hợp (IDE).
SageMaker AI hỗ trợ các yêu cầu quản trị trong cả huấn luyện và suy luận thông qua các biện pháp kiểm soát truy cập và khả năng minh bạch đối với các dự án ML. Dịch vụ cũng cung cấp công cụ để xây dựng mô hình nền tảng (FM), tức các mô hình lớn được huấn luyện trên tập dữ liệu quy mô lớn, cũng như để tinh chỉnh, thử nghiệm, huấn luyện lại và triển khai chúng.
AWS cung cấp hạ tầng đám mây cho suy luận AI, bao gồm GPU chuyên dụng trên Amazon EC2 và các chip máy học như AWS Inferentia.
Bắt đầu sử dụng suy luận mô hình ML trên AWS bằng cách tạo tài khoản miễn phí ngay hôm nay.
Áp dụng hướng dẫn này với Ailoot
Kết nối các mô hình AI với ứng dụng, tác nhân và quy trình tự động hóa của bạn thông qua một API Ailoot duy nhất. Chọn mô hình phù hợp với nhiệm vụ và làm theo tài liệu Ailoot để bắt đầu.