Las plataformas en la nube heredadas han demostrado ser inestimables para entrenar modelos de IA con grandes volúmenes de datos. Pero a medida que las organizaciones quieren ampliar y optimizar aún más las aplicaciones de IA, las plataformas heredadas están mostrando rápidamente sus limitaciones.
En un estudio de Forrester encargado por Akamai, descubrimos los problemas que los líderes de TI y los desarrolladores están experimentando con las plataformas de nube heredadas. Muchos coinciden en que trasladar los recursos informáticos al edge computing ayudará a reducir la latencia, el uso de ancho de banda y los costes en la era de la inferencia de IA.
A medida que la formación en IA allana el camino para la inferencia de IA, necesitamos soluciones que puedan hacer frente al aumento de las cargas de trabajo y las necesidades de computación sin perjudicar el rendimiento y la experiencia del usuario final.
Qué significa el cambio a la inferencia de IA para el desarrollo de aplicaciones
Ahora que las necesidades de cálculo de la IA están a punto de desplazarse a la inferencia en lugar de sólo al entrenamiento, ¿qué significa esto para los desarrolladores de aplicaciones de IA?
Según Jack Gold, Presidente y Analista Principal de J.Gold Associates, el equilibrio entre formación e inferencia se sitúa actualmente en un 80% de formación y un 20% de inferencia. Predice que esta situación cambiará en los próximos tres años y que los recursos informáticos se centrarán en un 80% en la inferencia y sólo un 20% en la formación.
La inferencia de la IA es el proceso de utilizar modelos entrenados para extraer conclusiones y resultados a partir de nuevos datos. A medida que se entrenan más modelos con enormes conjuntos de datos, la siguiente etapa consiste en utilizar esos modelos para hacer frente a nueva información y ampliar las capacidades de las soluciones de IA.
Esto, unido a las expectativas de los usuarios de mayor personalización, alto rendimiento y uso de datos en tiempo real en las aplicaciones, significa que las actuales soluciones en la nube deben adaptarse.
Por qué la arquitectura central de la nube no puede seguir el ritmo
El objetivo de la inferencia de IA es ayudar a obtener resultados en tiempo real y una experiencia de usuario más fluida en las aplicaciones de IA. Sin embargo, las soluciones en la nube heredadas se topan con un obstáculo, o más concretamente con tres retos clave que dificultan el escalado y la optimización con IA.
En el estudio, revelamos que los principales retos a los que se enfrentan los desarrolladores y los responsables de TI son:
- Problemas de latencia (el 56% sufre retrasos en el procesamiento)
- Problemas de costes (el 60% tiene problemas con los costes de almacenamiento/procesamiento)
- Dificultades de escalado (el 45% tiene problemas para escalar)
"La mayoría de los encuestados afirmó que sus estrategias actuales en la nube obstaculizan su capacidad para incorporar a sus aplicaciones la toma de decisiones en tiempo real y basadas en datos ."
Las principales soluciones en la nube ya tienen dificultades para cumplir los requisitos de escalado y optimización de la IA. Entonces, ¿existe una solución más eficaz?
La computación de borde acerca el procesamiento de datos al usuario final, reduciendo los problemas de latencia y mejorando el rendimiento, lo que permite a los desarrolladores escalar las aplicaciones con mayor eficacia.
Sin embargo, incluso esto tiene sus dificultades, como el cumplimiento de las normativas y regulaciones, la dependencia de los proveedores y las dificultades para contratar y retener a técnicos con las competencias necesarias. La computación de borde suele utilizar diferentes enfoques arquitectónicos, protocolos especializados y distintos proveedores, lo que provoca complejidades operativas y un mayor riesgo empresarial.
La Cloud Computing distribuida como próxima fase del desarrollo de aplicaciones de IA
Una solución alternativa que está ganando adeptos rápidamente entre los líderes de TI es la computación en nube distribuida. Más de la mitad de los encuestados en este estudio afirmaron que actualmente autogestionan algún tipo de arquitectura distribuida.
La mayoría afirmó que sus actuales estrategias en la nube están obstaculizando su capacidad para incorporar a sus aplicaciones la toma de decisiones en tiempo real y basadas en datos, debido a los costes de almacenamiento y potencia de procesamiento adicionales y a los retrasos en el procesamiento causados por la alta latencia.
Al igual que la computación de borde, la arquitectura de nube distribuida permite a los desarrolladores servir datos desde ubicaciones más cercanas a los usuarios, lo que mejora la latencia y el rendimiento de las aplicaciones, las bases de datos en nube, el streaming multimedia y otras cargas de trabajo.
La diferencia es que, aunque forma parte de una red distribuida, esta forma de computación en nube puede incluir una variedad de ubicaciones diferentes para los datos, incluidos centros de datos de terceros, ubicaciones locales y ubicaciones de nube privada.
A medida que avancemos hacia la inferencia de la IA, surgirán más aplicaciones y oportunidades de ampliación y, con ello, la necesidad de formas más eficientes de manejar los datos.
Los usuarios de las aplicaciones esperan resultados rápidos y una experiencia fluida. Al invertir en arquitecturas distribuidas, los desarrolladores pueden satisfacer las demandas de procesamiento de datos e inferencia en tiempo real de las aplicaciones modernas y garantizar la ventaja competitiva de su empresa frente a los usuarios.
Cómo Cloud Computing distribuida refleja los objetivos empresariales
Hemos comprobado que la flexibilidad para desplegar recursos informáticos más cerca de los usuarios finales, manteniendo al mismo tiempo la gestión y el control centralizados, responde a algunas de las principales preocupaciones de los encuestados:
- El 55% afirma que abordaría los temores a un mayor riesgo empresarial
- El 54% afirma que ayudaría a protegerse contra el aumento desmesurado de los costes
- El 49% afirma que mejoraría la lentitud en la obtención de valor
Donde la arquitectura de nube distribuida supera a la computación de borde es en que facilita el despliegue y la gestión de aplicaciones de IA con los mismos conjuntos de habilidades, paradigma arquitectónico y primitivas de nube de la computación de nube central.
Además, la nube distribuida proporciona una latencia reducida, una mejor escalabilidad, una mayor fiabilidad y un mayor control general sobre los datos a la hora de crear aplicaciones.
¿Es mejor cambiar pronto que tarde?
Del estudio de Akamai con Forrester, es importante destacar que los líderes de TI y los desarrolladores de aplicaciones están priorizando objetivos como innovar en torno a la IA, modernizar las experiencias digitales, personalizar las experiencias y mejorar la gestión de datos. Por lo tanto, las ventajas de la nube distribuida están directamente relacionadas con lo que buscan la mayoría de los desarrolladores.
Teniendo en cuenta las predicciones en torno a la inferencia de IA y la creciente tendencia hacia las configuraciones distribuidas en la nube, cambiar a un enfoque distribuido parece una opción obvia. Dar el paso cuanto antes podría ayudarle a seguir siendo competitivo a medida que evolucionan el mercado y la tecnología de IA.
Para obtener más información de nuestro informe sobre el futuro de la nube distribuida frente a la computación periférica y las arquitecturas de nube central, descárguese el informe completo hoy mismo.
* En este estudio de Forrester Consulting encargado por Akamai, se preguntó a 163 responsables de la toma de decisiones de estrategia en la nube con sede en Norteamérica de los sectores del comercio, los medios de comunicación y las telecomunicaciones su opinión sobre el estado actual de la computación en la nube.
Comentarios