인공지능(AI)에 대한 화두는 계속 커지고 있으며, 이에 따라 강력한 모델을 훈련하는 것을 넘어 실제 애플리케이션에 효과적으로 배포해야 한다는 중요성이 커지고 있습니다. 학습된 AI 모델을 사용하여 예측과 인사이트를 생성하는 프로세스인 AI 추론이 바로 여기에서 중요한 역할을 합니다. Akamai는 AI 추론이 엣지까지 쉽게 접근할 수 있을 뿐만 아니라 성능, 확장성, 비용 효율성을 모두 갖춘 미래를 향해 전략적으로 구축해 왔습니다.
출시와 함께 Akamai 클라우드 추론를 출시함으로써 세계에서 가장 분산된 클라우드가 되어 AI 및 그 이상의 분야에서 높은 처리량과 저지연 워크로드를 지원한다는 비전을 더욱 실현할 수 있게 되었습니다. Akamai Cloud Inference는 개발자가 엣지 네이티브 애플리케이션과 AI 솔루션을 구축하고 제공할 수 있도록 지원하기 위해 최근 취한 몇 가지 주요 조치의 흥미로운 결합입니다. 중앙 집중식 클라우드 모델은 대규모 AI 학습을 처리할 수 있지만, 초저지연의 지속적인 온디맨드 추론이 글로벌 규모로 효과적으로 작동하는 데 필요한 규모와 배포에 어려움을 겪는 경우가 많다는 사실을 인지했습니다.
AI 추론을 위한 더 빠르고 비용 효율적인 클라우드를 제공하기 위한 Akamai의 여정은 클라우드 네이티브 기술의 강력한 기반을 바탕으로 신중하게 진행되어 왔습니다. 이 아키텍처를 뒷받침하는 것은 세계에서 가장 분산된 퍼블릭 클라우드인 Akamai Cloud로, 광범위한 글로벌 네트워크를 통해 제공되는 포괄적인 클라우드 제품군으로 AI 추론을 지원할 수 있는 독보적인 역량을 갖추고 있습니다. Akamai 클라우드 추론은 확장 가능한 클라우드 네이티브 Kubernetes 아키텍처의 강력한 백본인 Linode Kubernetes Engine (LKE)과 Akamai 앱 플랫폼을 기반으로 구축되어 AI 애플리케이션과 추론 사용 사례를 신속하게 배포할 수 있도록 지원합니다.
- Akamai의 새로운 솔루션은 플랫폼 엔지니어와 개발자가 최종 사용자와 더 가까운 곳에서 AI 애플리케이션과 데이터 집약적인 워크로드를 구축하고 실행할 수 있는 툴을 제공하여 처리량을 3배 향상하고 지연 시간을 최대 2.5배까지 단축합니다.
- Akamai의 솔루션을 사용하면 기업은 기존 하이퍼스케일러 인프라에 비해 AI 추론 및 에이전트 AI 워크로드를 최대 86%까지 절감할 수 있습니다.
- 가벼운 미세 조정을 위한 최신 AMD CPU부터 NVIDIA GPU 및 NETINT 비디오 처리 장치 (VPU)를 통한 강력한 가속 컴퓨팅 옵션까지, 당사는 고유한 AI 추론 요구 사항을 충족하는 데 적합한 마력을 제공합니다.
- 저희는 VAST Data와의 협업을 통해 추론 관련 작업을 가속화하는 데 필수적인 실시간 데이터에 대한 간소화된 액세스를 제공합니다. 이는 확장성이 뛰어난 객체 스토리지와 검색 증강 생성(RAG)을 위한 Aiven 및 Milvus와 같은 선도적인 벡터 데이터베이스 공급업체와의 통합으로 보완됩니다.
- 새로운 LKE-엔터프라이즈 및 앱 플랫폼을 비롯한 클라우드 네이티브 Kubernetes 플랫폼을 활용하여 확장성과 이동성이 뛰어난 AI 애플리케이션 컨테이너를 지원함으로써 공급업체 종속을 없애고 복잡성을 제거하여 속도, 비용 및 보안을 최적화합니다.
- Akamai는 Fermyon과 같은 선도적인 웹어셈블리(WASM)와의 파트너십을 통해 개발자가 엣지의 서버리스 앱에서 직접 경량 추론을 실행하여 지연 시간에 민감한 애플리케이션을 강화할 수 있도록 지원합니다.
전 세계에 4,100개 이상의 거점을 갖춘 대규모 분산 네트워크를 통해 클라우드에서 엣지까지 컴퓨팅 리소스에 대한 저지연 액세스를 보장합니다. 이러한 강력한 조합을 통해 어디서나 대규모로 지연 시간이 짧고 처리량이 높은 최상의 AI 추론을 제공할 수 있습니다.
이는 단순한 기술이 아니라 실용적인 AI 솔루션으로 비즈니스의 역량을 강화하는 것입니다. 실시간 물체 감지 및 인식 기능을 통해 소매점 결제 경험을 혁신하고 프로세스의 속도를 높이며 오류를 줄인다고 상상해 보세요. 또는 커넥티드 카 기능 및 고급 경로 최적화를 위해 즉각적이고 적절한 응답을 제공하는 AI 기반 차량 내 음성 지원을 고려해 보세요. 이는 Akamai 클라우드 추론이 실질적인 비즈니스 가치를 창출하는 방법을 보여주는 몇 가지 예시일 뿐입니다.
앞으로의 비전은 분명합니다. 기업이 비즈니스 전반과 고객에게 최고의 처리량과 최소한의 응답 시간으로 빠르고 성능이 뛰어난 AI 추론을 제공하는 미래의 모습을 구축하는 것입니다. 엣지 중심 AI 워크로드에 대한 중앙 집중식 아키텍처의 한계를 인식하는 기업이 점점 더 많아지고 있기 때문에, 그 모멘텀은 우리 편에 있다고 생각합니다. Akamai는 고객이 AI 이니셔티브를 확장하여 디지털 접점에 더 가까운 곳에서 데이터를 행동으로 전환할 수 있도록 지원할 수 있는 독보적인 위치에 있습니다. Akamai Cloud를 기반으로 하는 AI 추론의 미래에 오신 것을 환영합니다.
내용