Blogue

O que é inferência?

Markdown

Saiba o que é a inferência de IA, como funcionam a inferência em lote, na periferia, em tempo real e em fluxo contínuo, e como as equipas podem enfrentar desafios de precisão, desempenho e custos.

O que é inferência (IA)?

A inferência é o processo pelo qual um modelo de inteligência artificial gera previsões ou resultados a partir de novos dados. Após o treino, um modelo de IA aprendeu parâmetros e representações. Quando recebe novos dados, utiliza-os para gerar um resultado. A inferência ocorre durante a execução de uma aplicação de IA ou na sua fase de implementação e permite uma variedade de casos de utilização no mundo real.

Porque é importante a inferência?

A inferência de IA é o processo de gerar resultados a partir de dados nunca vistos. Depois de aprender padrões generalizados a partir de conjuntos de dados de treino, um modelo aplica esses padrões a novos dados.

Por exemplo, um modelo de IA pode ser treinado com exames de imagens médicas anotados por profissionais de saúde. Durante o treino, o modelo aprende pistas visuais e associações presentes nos dados. Em seguida, pode identificar potenciais tumores ou anomalias em novos exames através da inferência. Os profissionais de saúde podem avaliar a precisão do processo, tirando conclusões a partir dos mesmos exames.

Em comparação com as técnicas tradicionais de análise de dados, nas quais as pessoas definem regras e selecionam técnicas estatísticas, o treino de modelos permite que um modelo descubra padrões complexos que são difíceis de codificar manualmente. Estes padrões resultam dos parâmetros do modelo. A inferência aplica-os a novos dados.

Quais são os tipos de inferência de aprendizagem automática?

Existem vários tipos de inferência de aprendizagem automática (ML).

Inferência em lote

A inferência em lote faz previsões utilizando grupos de várias entradas de dados. É útil em aplicações em que o tempo não é crítico e se pode aguardar pelos resultados. Por exemplo, uma aplicação de IA generativa para análise empresarial pode processar atualizações uma vez por hora, em vez de o fazer em tempo real.

Inferência na periferia

A inferência de IA na periferia executa um modelo no dispositivo de um utilizador ou perto da origem dos dados. Como não é necessário enviar os dados para um ponto central para processamento, a inferência na periferia pode reduzir a latência da rede. É útil em locais remotos com conectividade limitada ou em dispositivos nos quais a inferência é essencial. A velocidade de processamento depende do dispositivo e da latência do modelo.

Inferência em tempo real

A inferência em tempo real gera resultados imediatamente em resposta a pedidos de entrada. Os modelos recebem dados de entradas do utilizador ou de fontes de dados ligadas, o que cria a necessidade de um resultado imediato. A inferência em tempo real depende de sistemas de IA de baixa latência e é habitualmente utilizada em sistemas nos quais o tempo é crítico. Por exemplo, os veículos autónomos utilizam-na para apoiar a tomada de decisões atempada.

Inferência em fluxo contínuo

A inferência em fluxo contínuo utiliza um pipeline de dados que fornece continuamente informações a um modelo, que gera resultados em tempo real. Tal como a inferência em tempo real, responde aos dados recebidos, mas produz continuamente resultados com base no fluxo de entrada. A inferência em tempo real responde às entradas do utilizador ou a pedidos em direto, enquanto a inferência em fluxo contínuo processa um fluxo contínuo de novos dados.

Como funciona a inferência?

Várias tecnologias e sistemas de dados trabalham em conjunto para fornecer a infraestrutura necessária à inferência de IA.

Infraestrutura de modelos de aprendizagem automática

A inferência de IA só é possível depois de um modelo ter sido treinado. Antes da implementação, um modelo pode passar por treino, afinação, validação e otimização da inferência.

Um modelo treinado em produção pode exigir um poder de computação considerável de unidades de processamento gráfico (GPUs), unidades centrais de processamento (CPUs) e aceleradores de IA especializados, como o AWS Inferentia. Os recursos de computação também necessitam de armazenamento, rede e pipelines de dados.

Entradas do utilizador e pré-processamento de dados

Pode ser necessário pré-processar os dados antes de os fornecer a um modelo. Por exemplo, os modelos de visão podem utilizar normalização, enquanto os grandes modelos de linguagem (LLMs) podem utilizar tokenização. Também é possível limpar os dados para melhorar a sua qualidade.

O processo de inferência

O processo de inferência recebe dados limpos e executa uma passagem para a frente, fazendo passar os dados pré-processados pelas camadas do modelo para gerar um resultado. Este processo envolve uma série de cálculos.

Geração de resultados e pós-processamento

Após a passagem para a frente, um modelo gera um resultado com base nos padrões aprendidos a partir dos dados de treino.

O pós-processamento pode analisar, filtrar e formatar os resultados de acordo com mecanismos de proteção e políticas. Por exemplo, os mecanismos de proteção podem ajudar a prevenir palavrões ou conteúdo prejudicial, e a formatação pode adaptar um resultado ao tom de comunicação de uma empresa.

Quais são os desafios da inferência de modelos de IA?

Vários desafios podem afetar a capacidade de um modelo de IA para fazer inferências.

Deriva do modelo

A deriva do modelo ocorre quando este se torna menos eficaz ao longo do tempo, à medida que os dados do mundo real se alteram em relação aos dados com que foi treinado. A deriva dos dados ocorre quando os padrões nos dados de entrada mudam. Se os pesos do modelo permanecerem fixos com base em dados de treino anteriores, estas alterações podem tornar os resultados imprecisos.

A deriva do conceito ocorre quando a relação entre as entradas e os resultados do modelo se altera ou se torna mais complexa. Por exemplo, um modelo de IA treinado para identificar mensagens de phishing utiliza padrões aprendidos para fazer previsões. Se as novas tecnologias alterarem a forma como são realizados os ataques de phishing, os resultados do modelo podem tornar-se menos precisos. Pode ser necessário voltar a treinar o modelo para ter em conta essas alterações.

Em ambos os casos, um modelo que antes tinha um bom desempenho pode começar a produzir respostas menos precisas ou incorretas.

Velocidade e desempenho

A implementação de um modelo de IA à escala exige uma infraestrutura capaz de fornecer resultados de forma fiável. As organizações podem precisar de processadores gráficos, baixa latência, velocidades de rede elevadas e unidades de processamento adicionais de alto desempenho para modelos complexos.

Outras formas de melhorar a velocidade e o desempenho incluem aperfeiçoar a arquitetura da infraestrutura, utilizar hardware especializado e aplicar técnicas de otimização da inferência, como a quantização, para reduzir o tamanho do modelo.

A escolha de uma abordagem de inferência diferente, como a inferência em lote, pode melhorar o desempenho em casos de utilização específicos.

Custo

A execução de cargas de trabalho de inferência pode gerar custos inesperados. À escala ou em muitos contextos diferentes, a potência de computação e o volume de pedidos de inferência podem aumentar as despesas. As organizações podem gerir os custos através de estratégias como reduzir o tamanho do modelo, paralelizar o processamento e utilizar infraestrutura de nuvem com escalabilidade automática para inferência em linha.

Práticas recomendadas para melhorar a precisão e a utilidade da IA

A melhoria da precisão e da utilidade da inferência de IA depende, em parte, dos processos de treino e otimização. Estas práticas podem ajudar.

Invista na qualidade dos dados

A qualidade dos conjuntos de dados de treino afeta diretamente a capacidade de um modelo para fazer previsões sobre novos dados e produzir resultados úteis. Dados de alta qualidade, bem etiquetados, consistentes e sem ruído podem melhorar a capacidade de um modelo para identificar padrões. Estabeleça processos rigorosos de preparação de dados, incluindo a limpeza, validação, normalização e resolução de inconsistências.

Utilize pessoal qualificado

Sempre que possível, envolva pessoas com experiência no treino de modelos e na arquitetura da stack tecnológica que pretende utilizar. Os especialistas no domínio podem ajudar a anotar os dados, aumentando a sua qualidade e abrangência. Treinar um modelo com dados de alta qualidade pode melhorar a precisão dos seus resultados.

Inclua a explicabilidade para efeitos de conformidade

Os resultados da inferência devem ser explicáveis. As técnicas de explicabilidade podem ajudar a mostrar quais as características de entrada que influenciaram um determinado resultado. Os diferentes tipos de modelos de ML utilizam técnicas distintas. Shapley Additive exPlanations (SHAP), por exemplo, pode ser aplicado a qualquer modelo e é mais adequado a modelos baseados em árvores, modelos lineares e redes neuronais. A explicabilidade também pode ajudar as organizações a alinharem-se com os quadros de conformidade de IA, incluindo o direito à explicação previsto no RGPD para decisões tomadas por IA.

Como pode a AWS apoiar a inferência de IA?

A AWS descreve serviços e infraestrutura concebidos especificamente para as várias fases do ciclo de vida da aprendizagem automática e dos modelos de IA.

O Amazon SageMaker AI fornece um ambiente de aprendizagem automática para criar, treinar, otimizar, testar e governar modelos personalizados.

O Amazon SageMaker AI é um serviço totalmente gerido com ferramentas de aprendizagem automática para uma variedade de casos de utilização. Permite criar, treinar e implementar modelos à escala com ferramentas como notebooks, depuradores, profilers, pipelines e MLOps, num ambiente de desenvolvimento integrado (IDE).

O SageMaker AI apoia os requisitos de governação ao longo do treino e da inferência, com controlos de acesso e transparência nos projetos de ML. Também fornece ferramentas para criar modelos de base (FMs), que são modelos de grandes dimensões treinados com conjuntos de dados extensos, bem como para os afinar, experimentar com eles, voltar a treiná-los e implementá-los.

A AWS oferece infraestrutura de nuvem para inferência de IA, incluindo GPUs especializadas no Amazon EC2 e chips de aprendizagem automática, como o AWS Inferentia.

Comece hoje mesmo a utilizar a inferência de modelos de ML na AWS criando uma conta gratuita.

Ponha este guia em prática com a Ailoot

Ligue modelos de IA às suas aplicações, agentes e automatizações através de uma única API da Ailoot. Escolha o modelo adequado à sua tarefa e siga a documentação da Ailoot para começar.