# ¿Qué es la inferencia?

> Aprende qué es la inferencia de IA, cómo funcionan la inferencia por lotes, en el borde, en tiempo real y en streaming, y cómo los equipos pueden abordar los desafíos de precisión, rendimiento y costo.

Source: https://ailoot.ai/blog/es/what-is-ai-inferencing/
Canonical: https://ailoot.ai/blog/es/what-is-ai-inferencing/
Language: es
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100078
Revision: sha256-fd6389fdb9572730810d7ea6b98d0265403e8918b3be9ca7ff57963a5eb3ef5b


## ¿Qué es la inferencia (IA)?

La inferencia es el proceso mediante el cual un modelo de inteligencia artificial genera predicciones o resultados a partir de datos nuevos. Después del entrenamiento, un modelo de IA ha aprendido parámetros y representaciones. Cuando recibe datos nuevos, los utiliza para generar un resultado. La inferencia ocurre durante la fase de ejecución o implementación de una aplicación de IA y permite una variedad de casos de uso reales.

## ¿Por qué es importante la inferencia?

La inferencia de IA es el proceso de generar resultados a partir de datos no vistos. Después de aprender patrones generalizados de los conjuntos de datos de entrenamiento, un modelo aplica esos patrones a datos nuevos.

Por ejemplo, un modelo de IA podría entrenarse con imágenes médicas anotadas por profesionales médicos. Durante el entrenamiento, el modelo aprende indicios visuales y asociaciones en los datos. Luego puede identificar posibles tumores o anomalías en imágenes nuevas mediante la inferencia. Los profesionales médicos pueden evaluar la precisión del proceso sacando conclusiones de las mismas imágenes.

En comparación con las técnicas tradicionales de [analítica](https://aws.amazon.com/what-is/data-analytics/), en las que las personas definen reglas y seleccionan técnicas estadísticas, el entrenamiento de modelos permite que un modelo descubra patrones complejos difíciles de codificar manualmente. Estos patrones surgen de los parámetros del modelo. La inferencia los aplica a datos nuevos.

## ¿Cuáles son los tipos de inferencia de aprendizaje automático?

Hay varios tipos de inferencia de [aprendizaje automático](https://aws.amazon.com/what-is/machine-learning/) (ML).

### **Inferencia por lotes**

La inferencia por lotes realiza predicciones usando grupos con múltiples entradas de datos. Es útil en aplicaciones que no son críticas en cuanto al tiempo y pueden esperar los resultados. Por ejemplo, una aplicación de IA generativa para analítica empresarial podría procesar actualizaciones una vez por hora en lugar de hacerlo en tiempo real.

### **Inferencia en el borde**

La inferencia de IA en el [borde](https://aws.amazon.com/what-is/edge-computing/) ejecuta un modelo en el dispositivo de un usuario o cerca del origen de los datos. Como no es necesario enviar los datos a un centro central para procesarlos, la inferencia en el borde puede reducir la latencia de red. Es útil en ubicaciones remotas con conectividad limitada o en dispositivos donde la inferencia es esencial. La velocidad de procesamiento depende del dispositivo y de la latencia del modelo.

### **Inferencia en tiempo real**

La inferencia en tiempo real genera resultados de inmediato en respuesta a solicitudes de entrada. Los modelos reciben datos de la entrada del usuario o de fuentes de datos conectadas, lo que genera la necesidad de un resultado inmediato. La inferencia en tiempo real depende de sistemas de IA de baja latencia y se utiliza habitualmente en sistemas críticos en cuanto al tiempo. Por ejemplo, los vehículos autónomos la utilizan para facilitar la toma de decisiones oportuna.

### **Inferencia en streaming**

La inferencia en streaming utiliza una canalización de datos que envía información continuamente a un modelo, que genera resultados en tiempo real. Al igual que la inferencia en tiempo real, responde a los datos entrantes, pero produce resultados continuamente según el [flujo de entrada](https://aws.amazon.com/what-is/streaming-data/). La inferencia en tiempo real responde a la entrada del usuario o a solicitudes en vivo, mientras que la inferencia en streaming procesa un flujo continuo de datos nuevos.

## ¿Cómo funciona la inferencia?

Varias tecnologías y sistemas de datos trabajan en conjunto para proporcionar la infraestructura para la inferencia de IA.

### **Infraestructura de modelos de aprendizaje automático**

La inferencia de IA es posible después de entrenar un modelo. Antes de la implementación, un modelo puede pasar por entrenamiento, ajuste fino, validación y optimización de inferencia.

Un modelo entrenado en producción puede requerir una potencia de cómputo considerable de unidades de procesamiento gráfico (GPU), unidades centrales de procesamiento (CPU) y aceleradores de IA especializados, como [AWS Inferentia](https://aws.amazon.com/ai/machine-learning/inferentia/). Los recursos informáticos también necesitan almacenamiento, redes y canalizaciones de datos.

### **Entrada del usuario y preprocesamiento de datos**

Es posible que los datos deban preprocesarse antes de introducirlos en un modelo. Por ejemplo, los modelos de visión pueden usar normalización, mientras que los [modelos de lenguaje de gran tamaño](https://aws.amazon.com/what-is/large-language-model/) (LLM) pueden usar tokenización. También se pueden limpiar los datos para mejorar su calidad.

### **El proceso de inferencia**

El proceso de inferencia toma datos limpios y realiza una pasada hacia adelante, haciendo pasar los datos preprocesados por las capas del modelo para generar un resultado. Esto implica una serie de cálculos.

### **Generación de resultados y posprocesamiento**

Después de la pasada hacia adelante, un modelo genera un resultado según los patrones aprendidos de los datos de entrenamiento.

El posprocesamiento puede analizar, filtrar y dar formato a los resultados conforme a protecciones y políticas. Por ejemplo, las protecciones pueden ayudar a evitar palabras obscenas o contenido dañino, y el formato puede adaptar un resultado al tono de voz de una empresa.

## ¿Cuáles son los desafíos de la inferencia para los modelos de IA?

Varios desafíos pueden afectar la capacidad de un modelo de IA para hacer inferencias.

### **Deriva del modelo**

La deriva del modelo ocurre cuando un modelo pierde eficacia con el tiempo a medida que los datos del mundo real cambian con respecto a los datos con los que se entrenó. La deriva de datos ocurre cuando cambian los patrones de los datos de entrada. Si los pesos del modelo permanecen fijos según datos de entrenamiento anteriores, estos cambios pueden hacer que sus resultados sean imprecisos.

La deriva de concepto ocurre cuando la relación entre las entradas y los resultados del modelo cambia o se vuelve más compleja. Por ejemplo, un modelo de IA entrenado para identificar correos electrónicos de suplantación de identidad utiliza patrones aprendidos para hacer predicciones. Si las nuevas tecnologías cambian la forma en que se llevan a cabo los intentos de suplantación, el resultado del modelo puede perder precisión. Puede ser necesario volver a entrenarlo para tener en cuenta esos cambios.

En ambos casos, un modelo que antes funcionaba bien puede empezar a producir respuestas menos precisas o incorrectas.

### **Velocidad y rendimiento**

Implementar un modelo de IA a escala requiere una infraestructura capaz de ofrecer resultados de forma confiable. Las organizaciones pueden necesitar procesadores gráficos, baja latencia, altas velocidades de red y unidades de procesamiento de alto rendimiento adicionales para modelos complejos.

Otras formas de mejorar la velocidad y el rendimiento incluyen perfeccionar la arquitectura de la infraestructura, utilizar hardware especializado y aplicar técnicas de optimización de inferencia, como la cuantización, para reducir el tamaño del modelo.

Elegir un enfoque de inferencia diferente, como la inferencia por lotes, puede mejorar el rendimiento en casos de uso específicos.

### **Costo**

La ejecución de cargas de trabajo de inferencia puede generar costos inesperados. A escala o en muchos contextos diferentes, la potencia de cómputo y el volumen de solicitudes de inferencia pueden aumentar los gastos. Las organizaciones pueden gestionar los costos con estrategias como reducir el tamaño del modelo, paralelizar el procesamiento y utilizar infraestructura en la nube con escalado automático para la inferencia en línea.

## Prácticas recomendadas para mejorar la precisión y la utilidad de la IA

Mejorar la precisión y la utilidad de la inferencia de IA depende, en parte, de los procesos de entrenamiento y optimización. Estas prácticas pueden ayudar.

### **Invertir en la calidad de los datos**

La calidad de los conjuntos de datos de entrenamiento afecta directamente la capacidad de un modelo para hacer predicciones sobre datos nuevos y producir resultados útiles. Los datos de alta calidad, bien etiquetados, coherentes y sin ruido pueden mejorar la capacidad de un modelo para identificar patrones. Establece procesos rigurosos para preparar los datos, incluidos la limpieza, la validación, la normalización y la resolución de incoherencias.

### **Utilizar personal cualificado**

Cuando sea posible, involucra a personas con experiencia en el entrenamiento de modelos y en la arquitectura de la pila tecnológica que planeas utilizar. Los expertos en el dominio pueden ayudar a anotar los datos, para que sean de mayor calidad y más completos. Entrenar un modelo con datos de alta calidad puede mejorar la precisión de sus resultados.

### **Incluir explicabilidad para el cumplimiento normativo**

Los resultados de la inferencia deben ser explicables. Las técnicas de explicabilidad pueden ayudar a mostrar qué características de entrada influyeron en un resultado determinado. Los distintos tipos de modelos de ML utilizan técnicas diferentes. Por ejemplo, las explicaciones aditivas de Shapley (SHAP) pueden aplicarse a cualquier modelo y son más adecuadas para modelos basados en árboles, modelos lineales y redes neuronales. La explicabilidad también puede ayudar a las organizaciones a alinearse con marcos de cumplimiento de IA, incluido el derecho a la explicación del RGPD para las decisiones tomadas por IA.

## ¿Cómo puede AWS respaldar la inferencia de IA?

AWS describe servicios e infraestructura diseñada específicamente para distintas etapas del ciclo de vida del [aprendizaje automático](https://aws.amazon.com/ai/machine-learning/) y de los modelos de IA.

[Amazon SageMaker AI](https://aws.amazon.com/sagemaker/ai/) proporciona un entorno de aprendizaje automático para crear, entrenar, optimizar, probar y gobernar modelos personalizados.

Amazon SageMaker AI es un servicio totalmente administrado con herramientas de aprendizaje automático para una variedad de casos de uso. Admite la creación, el entrenamiento y la implementación de modelos a escala con herramientas como cuadernos, depuradores, perfiladores, canalizaciones y MLOps en un entorno de desarrollo integrado (IDE).

SageMaker AI admite los requisitos de gobernanza durante el entrenamiento y la inferencia con controles de acceso y transparencia sobre los proyectos de ML. También proporciona herramientas para crear modelos fundacionales (FM), que son modelos grandes entrenados con conjuntos de datos extensos, y para ajustarlos, experimentar, volver a entrenarlos e implementarlos.

AWS ofrece infraestructura en la nube para la inferencia de IA, incluidas GPU especializadas en [Amazon EC2](https://aws.amazon.com/ec2/) y chips de aprendizaje automático como [AWS Inferentia](https://aws.amazon.com/ai/machine-learning/inferentia/).

Empieza hoy mismo a utilizar la inferencia de modelos de ML en AWS [creando una cuenta gratuita](https://aws.amazon.com/free/).

## Pon en práctica esta guía con Ailoot

Conecta modelos de IA a tus aplicaciones, agentes y automatizaciones mediante una sola API de Ailoot. Elige el modelo que mejor se adapte a tu tarea y sigue la [documentación de Ailoot](https://ailoot.ai/docs/) para empezar.

## Ailoot · La empresa y su cartera de proyectos

Ailoot se apoya en la experiencia operativa acumulada, una amplia base de clientes, un servicio estable y el seguimiento continuo de KPI.

La empresa y su cartera de proyectos: millones de clientes; ventas por miles de millones al mes.

Ailoot aplica esa experiencia operativa al acceso por API a funciones de IA en productos de clientes, agentes, aplicaciones y automatizaciones.
