Software

Cómo Edge AI puede hacer que las empresas sean más ágiles


Expanda su estrategia y tecnología de datos corporativos en Transform 2021.


La pandemia ha acelerado la adopción de la informática de punta, o el almacenamiento de datos y computación que está cerca de cuando lo necesita. Según el informe State of the Edge de la Fundación Linux, es particularmente probable que las empresas minoristas, de fabricación y de atención médica digital amplíen su uso de la computación perimetral para 2028. Esto se debe principalmente a la capacidad de la tecnología para mejorar los tiempos de respuesta y ahorrar ancho de banda al tiempo que permite un análisis de datos menos restringido.

Si bien actualmente solo alrededor del 10% de los datos generados por las empresas se crean y procesan fuera de un centro de datos o nube tradicional, se espera que aumente al 75% para 2022, dice Gartner. Solo para los dispositivos de Internet de las cosas (IoT), se espera que se generen más de 175 zettabytes de datos en 2025. Según Grand View Research, se proyecta que el mercado global de computadoras tendrá un valor de $ 61.14 mil millones para 2028.

La computación perimetral representa un cambio de paradigma importante, pero tiene el potencial de volverse aún más útil en combinación con la IA. «Edge AI» describe arquitecturas en las que los modelos de IA se procesan localmente en dispositivos en el borde de la red. Dado que las configuraciones de Edge AI generalmente solo requieren un microprocesador y sensores y no una conexión a Internet, pueden procesar datos y hacer predicciones en tiempo real (o casi).

El valor comercial de la inteligencia artificial perimetral podría ser significativo. Según Markets and Markets, se proyecta que el mercado global de software de inteligencia artificial de vanguardia crecerá de $ 590 millones en 2020 a $ 1.830 millones en 2026. Deloitte estima que hasta la fecha se han vendido más de 750 millones de chips Edge AI que realizan tareas en el dispositivo, lo que equivale a $ 2.6 mil millones en ingresos.

¿Qué es Edge AI?

La mayoría de los procesos de IA se ejecutan en centros de datos basados ​​en la nube que requieren una capacidad informática significativa. Estos gastos pueden acumularse rápidamente. Según Amazon, el costo de la inferencia, es decir, cuando un modelo hace predicciones, representa hasta el 90% de los costos de infraestructura para el aprendizaje automático. Y un estudio reciente de RightScale encontró que más del 60% de las empresas encuestadas vieron ahorros de costos detrás de las iniciativas en la nube.

Edge AI, por otro lado, requiere poca o ninguna infraestructura en la nube más allá de la fase de desarrollo inicial. Un modelo puede entrenarse en la nube, pero implementarse en un dispositivo de borde, donde se ejecuta sin (o en gran medida sin) infraestructura de servidor.

Como señala Machine Learning Quant, el hardware de inteligencia artificial de borde generalmente se clasifica en una de tres categorías: (1) servidores de inteligencia artificial en las instalaciones, (2) puertas de enlace inteligentes y (3) dispositivos de borde. Los servidores de IA son máquinas con componentes especializados que admiten una variedad de aplicaciones de entrenamiento e inferencia de modelos. Las puertas de enlace se encuentran entre los dispositivos de borde, los servidores y otros elementos de la red. Y los dispositivos de borde realizan funciones de entrenamiento e inferencia de IA, aunque el entrenamiento se puede delegar a la nube con solo realizar inferencias en el dispositivo.

Las razones para usar hardware de inteligencia artificial en el borde son diversas, pero a menudo se centran en la transmisión, el almacenamiento y la protección de datos. Por ejemplo, en una empresa industrial o de fabricación con miles de sensores, generalmente no es práctico enviar grandes cantidades de datos de sensores a la nube, hacer que se realicen los análisis y luego devolver los resultados al sitio de fabricación. El envío de estos datos requeriría enormes cantidades de ancho de banda, almacenamiento en la nube y, potencialmente, revelaría información confidencial.

Edge AI también abre la puerta al uso de dispositivos conectados y aplicaciones de inteligencia artificial en entornos donde puede que no se dé una conexión a Internet confiable, como en una plataforma de perforación de aguas profundas o en un barco de investigación. Su baja latencia también lo hace muy adecuado para tareas urgentes, como la detección predictiva de errores y los sistemas de estanterías inteligentes para el comercio minorista con visión por computadora.

Edge AI en la práctica

En la práctica, Edge AI contiene un sensor, por ejemplo, un acelerómetro, girómetro o magnetómetro, que está conectado a una pequeña unidad de microcontrolador (MCU). Johan Malm, Ph.D. y especialista en análisis numérico en Imagimob, explicado en un white paper. La MCU se carga con un modelo que ha sido entrenado para escenarios típicos que encontrará el dispositivo. Esta es la parte de aprendizaje, que puede ser un proceso ininterrumpido a través del cual el dispositivo aprende a medida que encuentra cosas nuevas.

Por ejemplo, algunas fábricas usan sensores conectados a motores y otros dispositivos configurados para transmitir señales, basadas en temperatura, vibración y potencia, a una plataforma de inteligencia artificial de borde. En lugar de enviar los datos a la nube, la IA analiza los datos de forma continua y local para hacer predicciones sobre la falla inminente de un motor en particular.

Otro caso de uso de Edge AI y Computer Vision es la inspección óptica automatizada en las líneas de producción. En este caso, los componentes ensamblados se envían a través de una estación de prueba para un análisis visual automatizado. Un modelo de visión por computadora detecta partes faltantes o desalineadas y proporciona resultados en un tablero en tiempo real que muestra el estado de la inspección. Dado que los datos pueden fluir de regreso a la nube para un análisis más detallado, el modelo se puede reentrenar regularmente para reducir los falsos positivos.

Establecer un ciclo positivo para el reciclaje es un paso esencial para proporcionar IA. Una clara mayoría de empleados (87%) cita problemas de calidad de los datos como la razón por la que sus organizaciones no implementan con éxito la inteligencia artificial y el aprendizaje automático, según un informe reciente de Alation. Y el 34% de los que respondieron a una encuesta de Rackspace en 2021 citaron la mala calidad de los datos como la razón del fracaso de la investigación y el desarrollo de la IA.

«Muchos de nuestros clientes están utilizando literalmente cientos de miles de sensores … Estos escenarios de IoT no se tratan solo de IoT, sino de IoT más procesamiento inteligente para que el aprendizaje automático se pueda utilizar para obtener información para mejorar la seguridad y la eficiencia», dijo Amazon. El CTO Werner Vogels le dijo a VentureBeat en una entrevista anterior. “Gran parte del procesamiento se lleva a cabo en la nube, porque la mayor parte [AI model training] requiere mucha mano de obra, pero el procesamiento a menudo se realiza en el borde. Esfuerzo informático masivo y pesado [have a place] en la nube para entrenamiento de modelos y similares. La mayoría de las veces, sin embargo, sus cargas de trabajo no son críticas en tiempo real. Para nuestras operaciones críticas en tiempo real, los modelos deben trasladarse a dispositivos periféricos «.

Desafíos

Edge AI ofrece ventajas sobre las tecnologías de inteligencia artificial basadas en la nube, pero no está exenta de desafíos. El almacenamiento de datos localmente significa que se deben proteger más ubicaciones, con un mayor acceso físico que permite diferentes tipos de ataques cibernéticos. (Algunos expertos argumentan que la naturaleza descentralizada de la computación perimetral es demasiado elevado Seguridad.) La potencia informática está limitada en el borde, lo que limita la cantidad de tareas de IA que se pueden realizar. Y los modelos grandes y complejos generalmente deben simplificarse antes de implementarlos en hardware de inteligencia artificial, lo que en algunos casos reduce su precisión.

Afortunadamente, el hardware emergente promete aliviar algunas de las limitaciones informáticas del Edge. Las startups Sima.ai, AIStorm, Hailo, Esperanto Technologies, Quadric, Graphcore, Xnor y Flex Logix desarrollan chips a medida para cargas de trabajo de IA, y de ninguna manera son los únicos. Mobileye, la compañía de Tel Aviv que Intel adquirió por $ 15,3 mil millones en marzo de 2017, ofrece una solución de procesamiento de visión por computadora para AV en su línea de productos EyeQ. Y en julio pasado, Baidu presentó Kunlun, un chip para computación de borde en dispositivos y en la nube a través de centros de datos.

Además de los chips, cada vez hay más placas base de desarrollo, incluidas Edge TPU de Google y Jetson Nano de Nvidia. Microsoft, Amazon, Intel y Asus también ofrecen plataformas de hardware para la implementación de Edge AI, como la cámara de video inalámbrica DeepLens de Amazon para el aprendizaje profundo.

Estos son algunos de los desarrollos que animan a las empresas a seguir adelante. Según un informe de 2019 de Gartner, más del 50% de las grandes organizaciones tendrán al menos un caso de uso de informática de borde para admitir IoT o experiencias inmersivas para fines de 2021, en comparación con menos del 5% en 2019. en los próximos años, y Gartner predice que más de la mitad de las grandes organizaciones habrán implementado al menos seis casos de uso de edge computing para fines de 2023.

Los beneficios de Edge AI hacen que la implementación sea una decisión comercial inteligente para muchas organizaciones. Insight predice un ROI promedio del 5,7% de las implementaciones de borde inteligente durante los próximos tres años. En segmentos como la automoción, la atención médica, la fabricación e incluso la realidad aumentada, la inteligencia artificial en el borde puede reducir los costos al tiempo que admite una mayor escalabilidad, confiabilidad y velocidad.

VentureBeat

La misión de VentureBeat es ser un mercado digital para que los responsables de la toma de decisiones tecnológicas obtengan conocimientos sobre tecnologías y transacciones transformadoras. Nuestro sitio web proporciona información esencial sobre tecnologías y estrategias de datos para ayudarlo a administrar su organización. Lo invitamos a convertirse en miembro de nuestra comunidad para obtener acceso:

  • información actualizada sobre los temas de su interés
  • nuestros boletines
  • contenido de liderazgo intelectual cerrado y acceso con descuento a nuestros valiosos eventos, como Transformar 2021: Aprende más
  • Funciones de red y más

conviértete en miembro

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Botón volver arriba