El revuelo en torno a la inteligencia artificial (IA) sigue creciendo y, con él, la necesidad crucial de ir más allá de la mera formación de modelos potentes para desplegarlos eficazmente en aplicaciones del mundo real. Aquí es donde entra en juego la inferencia de la IA: el proceso de utilizar modelos de IA entrenados para generar predicciones y conocimientos. En Akamai, hemos estado construyendo estratégicamente hacia un futuro en el que la inferencia de IA no solo sea fácilmente accesible, sino también eficaz, escalable y rentable, hasta el límite.
Con el lanzamiento de Nube de Inferencia de Akamaihacemos realidad nuestra visión de ser la nube más distribuida del mundo, permitiendo cargas de trabajo de alto rendimiento y baja latencia para IA y más allá. Akamai Cloud Inference es la emocionante unión de varios pasos clave que hemos dado recientemente para permitir a los desarrolladores crear y entregar aplicaciones nativas de vanguardia y soluciones de IA. Nos dimos cuenta de que, aunque los modelos centralizados en la nube gestionan el entrenamiento de IA a gran escala, a menudo tienen dificultades con la escala y la distribución necesarias para que la inferencia continua y bajo demanda con latencia ultrabaja sea eficaz a escala global.
Nuestro camino hacia la entrega de una nube más rápida y rentable para la inferencia de IA ha sido deliberado y se ha construido sobre una sólida base de tecnologías nativas de la nube. Apuntalando esta arquitectura está Akamai Cloud, la nube pública más distribuida del mundo, equipada de forma única para potenciar la inferencia de IA con un conjunto completo de productos en la nube, entregados a través de la amplia red global de Akamai. Akamai Cloud Inference está construida sobre la sólida columna vertebral de una arquitectura Kubernetes escalable y nativa de la nube - Linode Kubernetes Engine (LKE) y Akamai App Platform - que permite un rápido despliegue de aplicaciones de IA y casos de uso de inferencia.
- La nueva solución de Akamai proporciona herramientas para que los ingenieros y desarrolladores de plataformas creen y ejecuten aplicaciones de IA y cargas de trabajo intensivas en datos más cerca de los usuarios finales, proporcionando un rendimiento 3 veces mejor y reduciendo la latencia hasta 2,5 veces.
- Utilizando la solución de Akamai, las empresas pueden ahorrar hasta un 86% en inferencia de IA y cargas de trabajo de IA agéntica en comparación con la infraestructura tradicional de hyperscaler.
- Desde las últimas CPU AMD para un ajuste fino y ligero hasta potentes opciones de cálculo acelerado con GPUNVIDIA y unidades de procesamiento de vídeo (VPU) NETINT, proporcionamos la potencia adecuada para satisfacer sus necesidades de inferencia de IA.
- Nuestra colaboración con VAST Data proporciona un acceso optimizado a los datos en tiempo real, crucial para acelerar las tareas relacionadas con la inferencia. Esto se complementa con un almacenamiento de objetos altamente escalable e integraciones con proveedores líderes de bases de datos vectoriales como Aiven y Milvus para la generación aumentada de recuperación (RAG).
- Aprovechando nuestras plataformas Kubernetes nativas de la nube, incluidas las nuevas LKE-Enterprise y App Platform, habilitamos contenedores de aplicaciones de IA altamente escalables y portátiles que eliminan la dependencia del proveedor y eliminan la complejidad, optimizando la velocidad, el coste y la seguridad.
- Al asociarse con WebAssembly (WASM) líder como Fermyon, Akamai permite a los desarrolladores ejecutar inferencia ligera para LLM directamente desde aplicaciones sin servidor en el edge, potenciando aplicaciones sensibles a la latencia.
Nuestra red distribuida masivamente, con más de 4100 puntos de presencia en todo el mundo, garantiza un acceso de baja latencia a los recursos informáticos desde la nube hasta el extremo. Esta potente combinación nos permite ofrecer la mejor inferencia de IA de baja latencia y alto rendimiento posible, en cualquier lugar y a escala.
No se trata sólo de tecnología, sino de dotar a las empresas de soluciones prácticas de IA. Imagine transformar la experiencia de pasar por caja con la detección y el reconocimiento de objetos en tiempo real, acelerando el proceso y reduciendo los errores. O piense en la asistencia por voz en el automóvil impulsada por la IA, que proporciona respuestas inmediatas y relevantes para las funciones del coche conectado y la optimización avanzada de rutas. Estos son sólo algunos ejemplos de cómo Akamai Cloud Inference puede impulsar el valor empresarial real.
De cara al futuro, nuestra visión es clara: construir el futuro de la forma en que las empresas ofrecen una inferencia de IA rápida y eficaz en sus negocios y a sus clientes, con el mayor rendimiento y el menor tiempo de respuesta posibles. Creemos que el impulso está de nuestro lado, ya que las empresas reconocen cada vez más las limitaciones de las arquitecturas centralizadas para las cargas de trabajo de IA centradas en el edge. Akamai se encuentra en una posición única para ayudar a los clientes a escalar sus iniciativas de IA, convirtiendo los datos en acción más cerca del punto de contacto digital. Bienvenido al futuro de la inferencia de IA, impulsada por Akamai Cloud.
Comentarios