AI 추론

효율적이고 반응성이 뛰어난 AI 활용

비용 효율적인 고성능 AI 추론

시장은 AI 훈련에서 추론으로 전환하고 있으며, 기업은 경제적인 비용으로 빠르게 실시간 인사이트를 확보해야 합니다. Akamai Cloud는 AI의 힘을 사용자에게 더 가까이 제공하기 때문에 이러한 요구사항을 충족합니다. 수십 년 동안의 엣지 혁신과 지연 시간이 짧은 성능을 위해 최적화된 세계적으로 분산된 네트워크를 갖춘 Akamai Cloud는 AI 추론을 위한 이상적인 플랫폼입니다.

기업 AI 모델을 간소화해 대처 능력과 경제성을 향상하세요

ai inference performance icon

탁월한 성능

AI 추론 워크로드를 사용자와 더 가까운 위치에서 실행하기 때문에 중앙 집중식 클라우드 솔루션에 비해 지연 시간을 최대 80% 줄일 수 있습니다.

비용 효율성

경제적인 GPU 및 CPU 컴퓨팅 옵션을 사용해 AI 모델을 호스팅해 Akamai 네트워크에서 신속한 추론이 가능합니다.

ai inference scale icon

확장성

전 세계적으로 분산되고 탈중앙화된 Akamai 클라우드 네트워크에 다양한 AI 모델을 배포할 수 있습니다.

기능

  • 가상머신(VM) - 컴퓨팅용 CPU, GPU, VPU
  • 전문 GPU - 추론에 최적화된 Nvidia RTX 4000 ADA GPU
  • EdgeWorkers - 엣지에서 추론을 위한 가벼운 코드 실행
  • 컨테이너 - LKE(Linode Kubernetes Engine)로 K8s 컨테이너화 앱을 효율적으로 오케스트레이션해 고성능 확장성 구현
  • Akamai App Platform - 쿠버네티스 프레임워크에서 빠르게 AI 앱 실행
  • 스토리지 - 블록 스토리지, 오브젝트 스토리지, 저지연 EdgeKV, 매니지드 데이터베이스를 통한 데이터 접속
  • 네트워킹 - 안전한 트래픽 관리, 부하 분산, 제어
AI 추론 사용 사례

스마트 체크아웃 시스템

리테일 결제 경험 혁신

체크아웃 카메라의 비디오 피드를 사용해 매장에서 실시간으로 의사 결정을 할 수 있습니다. 다양한 리테일 제품 데이터세트를 기반으로 훈련된 최신 오브젝트 탐지 및 인식 모델을 엣지에 배포해 AI 추론을 통해 제품을 즉시 식별하고 가격을 책정할 수 있습니다. 이를 통해 체크아웃 프로세스가 매우 빨라지고 수동 스캔 오류가 줄어듭니다.

동적 광고

AR 글래스에서의 동적 광고를 위한 초개인화

실시간 사용자 행동, 인구 통계, 사용자 기록 등의 지표를 고려하는 정교한 추천 시스템으로 맞춤형 광고를 제공해 사용자 몰입도를 높이고 광고 관련성과 전환율을 크게 향상할 수 있습니다. 

방대한 양의 사용자 행동 데이터를 기반으로 훈련된 모델을 리테일 환경 근처의 엣지 위치에 배포해 사용자 상호작용을 실시간으로 처리함으로써 즉각적이고 맥락에 맞는 제품 추천을 제공합니다. 이를 통해 쇼핑 경험을 크게 향상할 수 있습니다.

자동 품질 관리

제조 결함 탐지를 위한 AI 모니터링 비디오 피드

AI를 활용해 카메라 피드를 통해 조립 라인에서 직접 제품 품질 검사를 하는 방식으로 제조 공정에서 실시간으로 자동 품질 관리를 할 수 있습니다. 결함이 있는 제품 이미지와 결함이 없는 제품 이미지의 광범위한 데이터세트를 기반으로 사전 훈련된 최첨단 컴퓨터 비전 모델을 사용해 이러한 모델은 문제를 신속하게 파악하는 기능을 갖추고 있습니다. 이 솔루션은 고성능 AI 추론을 사용해 작업자에게 적시에 알리고 결함 발생 및 시정 조치 사이의 시간을 크게 단축합니다.

상시가동형(Always-on) 감시

AI 모니터링 비디오 감시 피드를 통한 보안 강화

비디오 피드를 실시간으로 분석해 의심스러운 활동을 탐지하고 당국이나 보안팀에 즉시 알리며 보안 위협에 신속하게 대응함으로써 공공 안전과 직원 안전을 강화할 수 있습니다.  

훈련된 오브젝트 탐지 모델, 엣지에 배포된 사람 재식별 모델과 함께 최신 컴퓨터 비전 모델을 사용하면 의심스러운 활동이나 요주의 인물을 즉시 탐지하고 추적해 보안을 강화하고 보안 인력의 응답 시간을 크게 줄일 수 있습니다.

리소스

Distributed Inferencing - 차세대 AI 최전선

변화하는 AI 환경에 대한 관점과 AI 추론이 차세대 개척 분야인 이유

분산형 클라우드: AI를 엣지로 확장 리서치 연구

Akamai의 의뢰를 받은 2024년 Forrester Consulting 연구에서 클라우드 전략 의사 결정권자 사이의 분산형 클라우드에 대한 관심을 살펴보았습니다.

AI 추론 효율성: 적은 비용으로 더 많은 일 해내기

Akamai Cloud의 Stable Diffusion 모델을 사용해 입증한 것처럼, AI 추론 비용을 최대 86% 절감할 수 있습니다. 성과를 최적화하고 비용을 절감하는 전략을 알아보세요.

최대 5000달러의 클라우드 크레딧을 받을 자격이 있는지 알아보세요

Akamai는 대규모 배포, 전환, 앱 최적화, 아키텍처 평가, 보안, 안정성 감사 등 다양한 분야에서 지원을 제공합니다. 지원 또는 계정 문제는  지원 페이지를 방문하세요.