AI Inferencing

解锁高效、响应迅速的 AI

高性能、经济高效的 AI 推理

市场风向正在从 AI 训练转向推理,企业需要以经济实惠的方式快速获取实时见解。Akamai Cloud 使 AI 触手可及,精准满足您的需求。Akamai Cloud 拥有数十年的边缘创新经验,其全球广泛分布的强大网络针对低延迟性能进行了优化,是实现 AI 推理的理想平台。

简化企业 AI 模型,畅享响应迅速、经济实惠的服务

ai inference performance icon

性能卓越

与集中式云解决方案相比,在靠近用户的地方运行 AI 推理工作负载,延迟最多可以降低 80%。

经济高效

利用经济的 GPU 和 CPU 计算方案,在 Akamai 网络上托管 AI 模型,实现快速推理。

ai inference scale icon

可扩展

在我们全球广泛分布的分散式云网络上部署各种 AI 模型。

特点

  • 虚拟机 — 提供 CPU、GPU、VPU 计算能力
  • 专用 GPU — 采用专为推理优化的 Nvidia RTX 4000 ADA GPU
  • EdgeWorkers — 在边缘执行轻量级代码,实现高效推理
  • 容器 — 利用 Linode Kubernetes Engine (LKE) 高效编排 K8s 容器化应用,以实现高性能扩展
  • Akamai App 平台 — 在 Kubernetes 框架上快速启动 AI 应用
  • 存储 — 通过块存储、对象存储、低延迟 EdgeKV 和托管数据库实现数据访问
  • 网络 — 安全流量管理、负载均衡和控制
AI Inferencing 应用场景

智能结账系统

改变零售结账体验

利用收银台摄像头的视频反馈,实现店内实时决策。通过在多样化零售产品数据集上进行训练并部署在边缘的先进物体检测和识别模型,利用 AI 推理实现即时产品识别和定价。这显著加快了结账流程,并减少了人工扫描造成的错误。

动态广告

AR 眼镜中动态广告的超个性化体验

通过先进的推荐系统提供定制广告,该系统会考虑实时用户行为、人口统计和用户历史记录等指标,以提高用户参与度并显著提升广告相关性和转化率。

利用根据海量用户行为数据训练并部署在靠近零售环境的边缘位置的模型,实时处理用户交互,从而提供能够感知情境的即时产品推荐。这可以极大地改善购物体验。

自动化质量控制

用于检测制造缺陷的 AI 监控视频反馈

通过摄像头在装配线上实时采集图像,并结合 AI 进行产品质量检验,在生产流程中实现自动化质量控制。这些模型采用先进的计算机视觉模型,在大量有缺陷和无缺陷的产品图像数据集上进行预先训练,能够快速识别问题。此解决方案使用高性能 AI 推理向操作员发出即时告警,并且可以显著缩短缺陷发生与采取纠正措施之间的时间。

不间断监控

通过 AI 监控视频监视反馈增强安全性

通过实时分析视频反馈,检测可疑活动并立即向当局或安全团队发出告警,快速应对安全威胁,从而增强公众/员工的安全保障。

利用先进的计算机视觉模型以及经过训练并部署在边缘的物体检测和人员重新识别模型,通过即时检测和跟踪可疑活动或目标人员来增强您的安全性,同时显著缩短安全人员的响应时间。

资源

分布式推理 — AI 新前沿

纵观 AI 局势变幻,探讨为何 AI 推理是下一个战场前线。

分布式云:将 AI 扩展至边缘研究调查

在一项由 Akamai 委托 Forrester 咨询公司于 2024 年进行的调研报告中,探讨了云战略决策者对分布式云的兴趣。

高效的 AI 推理:少花钱,多办事

在 Akamai Cloud 上运行 Stable Diffusion 模型的测试表明,AI 推理成本最多可以降低 86%。探索优化性能和降低成本的策略。

了解您是否有资格申请高达 5 千美元的云服务抵扣额度

我们将随时为您提供大规模部署、迁移、应用程序优化、架构评估、安全和可靠性审计等方面的帮助。如需获取支持或者遇到了问题,请访问我们的 支持页面