業界ニュース--凱明電子（香港）有限公司

アマゾンクラウドテクノロジー、次世代自己研究チップを発売
2023-12-04

•Amazon Graviton 4は現在アマゾンのクラウドテクノロジーの性能が最も強く、最もエネルギー効率の高い自己研究チップであり、幅広いクラウド上のワークロードをサポートしている

•Amazon Trainium 2は、アマゾンのクラウドテクノロジー上でモデルトレーニングに使用される最高のコンピューティング性能を提供し、トレーニング速度を向上させ、コストとエネルギー消費を削減

アマゾンクラウドテクノロジーは2023 re：Inventグローバル大会で、自社のチップファミリーの2つのシリーズを発表し、Amazon Graviton 4とAmazon Trainium 2を含め、機械学習（ML）訓練や生成式人工知能（AI）応用などの広範なワークロードにより高い価格比とエネルギー効率を提供すると発表した。Graviton 4とTrainium 2はアマゾンのクラウドテクノロジー自己研究チップの最新の革新である。アマゾンのクラウドテクノロジーの各世代の自己研究チップは、AMD、Intel、およびインテルなどに基づく最新のチップとインスタンスの組み合わせ以外の選択肢を提供し続け、Amazon Elastic Compute Cloud（Amazon EC 2）がほとんどのアプリケーションとワークロードを仮想的に実行できるようになった。

•Graviton 4は、現行世代のGraviton 3プロセッサーに比べてパフォーマンスが30%向上し、独立コアが50%以上増加し、メモリ帯域幅が75%以上向上し、Amazon EC 2で動作するワークロードに最適なパフォーマンスと電力効率を提供します。

•Trainium 2は第1世代Trainiumチップに比べてトレーニング速度を最大4倍に向上させ、EC 2 UltraClustersに最大100,000個のチップを配置することができ、極めて短い時間でベースモデル（FMs）と大言語モデル（LLMs）をトレーニングすることができ、同時にエネルギー効率を最大2倍に向上させることができる。

アマゾンのクラウドコンピューティングとネットワークのDavid Brown副社長は、「チップはユーザーのすべてのワークロードの基礎であり、アマゾンのクラウドテクノロジーがこの分野を重要な革新的な分野として考えてきた理由でもあります。チップ設計をお客様が本当に関心を持っている実際のワークロードに焦点を当てることで、お客様に最先端のクラウドインフラストラクチャを提供することができます。Graviton 4は、わずか5年で発売されたこのシリーズの第4世代であり、今までで最も強力でエネルギー効率の高いチップです。お客様の幅広いワークロードをサポートします。生成型AIが注目を集めるにつれて、Tranium 2はお客様がより低コストでエネルギー効率を向上させ、機械学習モデルをより迅速に訓練するのを支援することができます。」

Graviton 4は、お客様の幅広いワークロードに最適な価格と電力効率を提供します。

現在、アマゾンクラウドテクノロジーが世界規模で提供しているGravitonベースのAmazon EC 2インスタンスの種類は150以上に達し、すでに構築されているGravitonプロセッサーの数は200万個を超え、50,000を超える顧客を抱えています。これらのお客様は、Gravitonベースのインスタンスを使用してアプリケーションに最適な価格比を提供するEC 2最大の上位100のお客様をカバーしています。Datadog、DirecTV、Discovery、Formula 1（F 1）、NextRoll、Nielsen、Pinterest、SAP、Snowflake、Sprinklr、Stripe、Zendeskなどの顧客は、Gravitonベースのインスタンスを使用して、データベース、データ分析、ネットワークサーバ、バッチ処理、広告サービス、アプリケーションサーバ、マイクロサービスなど、幅広いワークロードを実行しています。お客様がより大きなメモリデータベースと分析ワークロードをクラウドに移行するにつれて、コンピューティング、メモリ、ストレージ、ネットワークに対する要件が増加しています。そのためには、コストを最適化しながら、これらの要求の厳しいワークロードを実行するために、より高いパフォーマンスとより大きなインスタンスが必要です。これらのワークロードに対して、お客様は環境への影響を減らすために、より省エネなコンピューティングリソースを使用することも望んでいます。現在、多くのアマゾンクラウドテクノロジーのホスティングサービスは、Amazon Aurora、Amazon ElastiCache、Amazon Elastic MapReduce（Amazon EMR）、Amazon MemoryDB、Amazon OpenSearch、Amazon Relational Database Service（Amazon RDS）、Amazon Fargate、Amazon Lambdaなどを含むGravitonの性的価格比優位性を利用するユーザーに提供するGravitonの利用をサポートしている。

Graviton 4プロセッサーはGraviton 3プロセッサーより30%、独立コアは50%以上、メモリ帯域幅は75%以上向上した。Graviton 4はさらに高速物理ハードウェアインタフェースの完全暗号化によりセキュリティを向上させた。Amazon EC 2 R 8 gメモリ最適化性の例は最新のGraviton 4を採用し、顧客が高性能データベース、メモリキャッシュ、ビッグデータ分析などのワークロードを実行する効率を向上させる。R 8 gインスタンスは、現在の世代のR 7 gインスタンスよりもインスタンスサイズが大きく、仮想プロセッサ（vCPU）とメモリが3倍に向上しています。これにより、ユーザーはより大量のデータを処理し、より大規模なワークロードを処理し、実行結果を迅速に取得し、総所有コストを削減することができます。Graviton 4ベースのR 8 gインスタンスにはプレビュー版が用意されており、今後数ヶ月で正式に使用可能になります。Graviton 4ベースのR 8 gインスタンスの詳細については、aws.amazon.com/ec 2/instance-types/r 8 gにアクセスしてください。

Trainium 2のEC 2 UltraClustersは、クラウドの中で最も高性能でエネルギー効率の高いAIモデルトレーニングインフラストラクチャをお客様に提供することに力を入れています

現在増加している生成型AI応用の背後にある基礎モデルと大言語モデルは、大量のデータセットを用いて訓練する必要がある。これらのモデルは、文字、音声、画像、ビデオ、さらにはソフトウェアコードなどの大量の新しいコンテンツを作成することで、お客様のユーザーエクスペリエンスの再構築を支援します。現在の最先端の基礎モデルと大言語モデルには通常、数千億または数兆のパラメータや変数が含まれており、数万の機械学習チップをサポートして拡張できる信頼性の高い高性能計算能力が必要です。アマゾンクラウドテクノロジは、最新のGPU、Trainium、Inferentia 2など、機械学習チップでサポートされているAmazon EC 2のインスタンスオプションを広く深く提供しています。Databricks、Helixon、Money Forward、Amazon Searchチームなど多くのお客様がTrainiumを使用して大規模なディープラーニングモデルをトレーニングしているため、Trainiumの高性能、拡張性、信頼性、低コストなど多くのメリットを享受できます。しかし、現在最速の加速インスタンスを使用している場合でも、お客様は、ますます複雑になっているこれらのモデルをトレーニングするために、トレーニングの速度を高め、コストを削減しながら、エネルギー消費を削減するために、より強いパフォーマンスと規模を得ることを望んでいます。

Trainium 2チップは、高性能なトレーニングで数兆個のパラメータや変数を持つ基礎モデルと大言語モデルのために構築されています。Trainium 2は、初代Trainiumチップに比べて4倍、メモリ3倍、エネルギー効率（ワット当たりの性能）2倍に向上しています。Amazon EC 2 Trn 2の例は、16個のTrainium加速チップを含む最新のTrainium 2を使用している。Trainium 2の例は、次世代EC 2 UltraClustersにおいて最大100,000個のTrainium 2アクセラレータチップを拡張し、Amazon Elastic Fabric Adapter（EFA）PBレベルネットワークと接続することに力を入れており、65 exaflopsまでの計算力を提供しており、お客様は必要に応じてスーパーコンピューティングレベルの性能を得ることができます。このレベルの規模では、数ヶ月ではなく数週間で3千億のパラメータを持つ大言語モデルを訓練することができます。大幅に低減されたコストで最高の横方向拡張モデルトレーニングを提供することにより、Trainum 2インスタンスは、顧客がロックを解除し、生成AIの新しい革新を加速するのを支援することができる。Trainum 2の詳細については、aws.amazon.com/machine-learning/trainium/を参照してください。

Anthropicは人工知能の安全と研究会社であり、責任を持って生成式人工知能を配置する主要な提唱者であり、信頼性、解釈可能、制御可能な人工知能システムの構築に力を入れている。Anthropicは2021年からアマゾンのクラウドテクノロジーを使用している。最近、AnthropicはClaudeをリリースしました。ヘルプを提供することに専念し、無害で誠実な人工知能アシスタントです。Anthropic共同創業者のトム・ブラウン氏は、「Amazon Bedrockをサポートして以来、Claudeはアマゾンクラウドのお客様から広く採用されています。Trainium 2は、第1世代Trainiumチップに比べて少なくとも4倍の速度でモデルの構築とトレーニングを支援してくれます。アマゾンクラウドとの提携により、さまざまな規模の組織がAnthropicの安全で先進的な人工知能システムとアマゾンクラウドテクノロジーの信頼性の高いクラウド技術により、新たな可能性が解放されます。」

Databricksは、Comcast、CondéNast、50%以上のフォーチュン500社を含む世界10,000以上の組織機構を支援し、データ、分析、AIを統一します。DatabricksジェネレーションAIバイスプレジデントのNaveen Rao氏は、「数千社のお客様がアマゾンクラウドテクノロジ上でDatabricksを実行し、MosaicMLを使用してさまざまなユースケースのベースモデルを事前訓練、微調整、その他の操作を行っています。Amazon Trainiumは、Mosaic MPTモデルを訓練するために必要な規模、高性能、低コストを提供してくれます。Trainium 2は、次世代Mosaic MPTモデルをより迅速に構築することを可能にし、お客様にこれまでにない規模と性能を提供し、彼らが従来よりも迅速に独自の生成型AIアプリケーションをリリースしています。」

前のページ：Pickeringは1 kVまで切り換え可能な新型高圧SMD舌ばねリレー次のページ：光伏大シャッフル！70%の光起電力企業または淘汰される