メインコンテンツにスキップ
ブログコンピューティングアカマイのクラウド上の人工知能推論:開発者によるエッジネイティブ・アプリケーションの高速化

アカマイのクラウド上の人工知能推論:開発者によるエッジネイティブ・アプリケーションの高速化

人工知能_Inference_on_Akamai_Cloud_開発者によるエッジ・ネイティブ・アプリケーションの高速化

人工人工知能AI)の話題は増え続けており、それに伴い、単に強力なモデルをトレーニングするだけでなく、それを実世界のアプリケーションに効果的に展開する必要性が高まっている。人工知能 推論とは、学習した人工知能 モデルを使用して予測や洞察を生成するプロセスです。アカマイでは、人工知能 推論が簡単に利用できるだけでなく、パフォーマンス、スケーラビリティ、コスト効率に優れ、エッジに至るまで利用できる未来に向けて、戦略的に構築してきました。

アカマイの Akamai Cloud Inferenceアカマイは、世界で最も分散されたクラウドを目指すというビジョンをさらに実現し、人工知能 およびその先の高スループット、低レイテンシーのワークロードを可能にします。Akamai Cloud Inference は、開発者がエッジネイティブ・アプリケーションおよび人工知能 ソリューションを構築し、配信できるようにするために、当社が最近実施したいくつかの重要なステップのエキサイティングな統合です。中央集中型のクラウドモデルは大規模な人工知能 トレーニングを処理する一方で、超低遅延で継続的なオンデマンド推論をグローバル規模で効果的に行なうために必要なスケールや分散に苦戦することが多いことを当社は認識していました。 

より高速でコスト効率に優れた人工知能 推論のためのクラウドを提供するための当社の道のりは、クラウドネイティブなテクノロジーの強固な基盤の上に、慎重に構築されてきました。このアーキテクチャを支えているのは、世界で最も分散型のパブリッククラウドである Akamai Cloud であり、アカマイの広範なグローバルネットワークを通じて配信される包括的なクラウド製品群により、人工知能 推論を強化する独自の機能を備えています。Akamai Cloud Inference は、クラウドネイティブでスケーラブルな Kubernetes アーキテクチャ(Linode Kubernetes Engine(LKE)とAkamai App Platform)の堅牢なバックボーン上に構築されており、人工知能 アプリケーションや推論のユースケースの迅速な導入を可能にします。

  • アカマイの新しいソリューションは、プラットフォームエンジニアや開発者向けに、人工知能 アプリケーションやデータ集約型ワークロードをよりエンドユーザーに近い場所で構築および実行するためのツールを提供し、最大 2.5 倍の待ち時間を短縮しながら 3 倍のスループットを実現します。
  • アカマイのソリューションを使用することで、企業は従来のインフラ比較して、人工知能 推論およびエージェント人工知能 ワークロードを最大 86% 節約することができます。
  • 軽量の微調整が可能な最新のAMD CPUから、NVIDIA GPUや NETINTビデオ・プロセッシング・ユニット(VPU)による強力なアクセラレーション・コンピューティング・オプションまで、当社はお客様独自の人工知能 推論のニーズを満たす適切な馬力を提供します。 
  • VAST Data社とのコラボレーションにより、推論関連タスクの高速化に不可欠なリアルタイムデータへの合理的なアクセスを提供します。これは、拡張性の高いオブジェクトストレージと、検索拡張世代(RAG)のためのAivenやMilvusのような主要なベクトルデータベースベンダーとの統合によって補完されます。 
  • 新しいLKE-EnterpriseやApp Platformを含むクラウドネイティブのKubernetesプラットフォームを活用することで、ベンダーのロックインを排除し、複雑さを排除し、スピード、コスト、セキュリティを最適化する、拡張性と移植性の高い人工知能 アプリケーションコンテナを実現します。 
  • アカマイは、Fermyon などの主要な WebAssembly (WASM) と提携することで、開発者がエッジのサーバーレスアプリケーションから直接 LLM 向けの軽量推論を実行し、遅延の影響を受けやすいアプリケーションを強化できるようにしています。 

世界中に4,100以上の拠点を持つ当社の大規模分散ネットワークは、クラウドからエッジまで、コンピュートリソースへの低レイテンシーアクセスを保証します。この強力な組み合わせにより、最高の低レイテンシーと高スループットの人工知能 推論を、どこでも、大規模に提供することができます。 

これは単なるテクノロジーではなく、実用的な人工知能 ソリューションでビジネスを強化することです。リアルタイムの物体検出と認識によって、小売店のレジ体験を変革し、プロセスをスピードアップしてミスを減らすことを想像してみてください。あるいは、コネクテッド・カー機能や高度なルート最適化に対して、即座に適切な応答を提供する人工知能車載音声アシストを考えてみてください。これらは、Akamai Cloud Inference がどのように真のビジネス価値をもたらすかのほんの一例にすぎません。 

それは、ビジネス全体と顧客に対して、可能な限り最高のスループットと最小のレスポンスタイムで、高速かつ高性能な人工知能 推論を提供するビジネスの未来を構築することです。エッジ中心の人工知能 ワークロードに対する集中型アーキテクチャの限界を認識する企業が増えており、その勢いは当社にもあると確信しています。アカマイは、お客様が人工知能 イニシアティブをスケールアウトし、データをよりデジタルなタッチポイントに近いアクションに変えられるよう、独自の立場で支援しています。アカマイのクラウドが実現する人工知能 推論の未来へようこそ。

こちらもどうぞ...

コメント 

コメントを残す

あなたのメールアドレスは公開されません。必須項目には*印がついています。