吉祥寺北口システムが気になった記事をクリップしています。タイトルから元記事にリンクしています。タグは記事タイトルを形態素分析しています。たまにコメントをつけています。

Inferentia

• AWS Trainium、AWS Inferentia が AWS 上の Llama 3.1 モデルに高性能と低コストを提供 | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • Inferentia(18)
  • Llama(28)
  • Services(6355)
  • Trainium(9)
  • Web(9079)
  • コスト(594)
  • ブログ(7700)
  • モデル(1168)
  • 性能(411)
  • 提供(15153)
• AWS Trainium を活用した日本語大規模言語モデルの分散学習と AWS Inferentia2 上での推論環境構築 | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • Inferentia(18)
  • Services(6355)
  • Trainium(9)
  • Web(9079)
  • ブログ(7700)
  • モデル(1168)
  • 分散(253)
  • 大規模(684)
  • 学習(804)
  • 推論(62)
  • 日本(5693)
  • 構築(1828)
  • 活用(4979)
  • 環境(1705)
  • 言語(520)
• AWS Inferentia と AWS Trainium を用いた、AWS SageMaker JumpStart によるコスト最適化された Llama 2 モデルのファインチューニングとデプロイ | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • Inferentia(18)
  • JumpStart(11)
  • Llama(28)
  • SageMaker(362)
  • Services(6355)
  • Trainium(9)
  • Web(9079)
  • コスト(594)
  • デプロイ(173)
  • ファインチューニング(8)
  • ブログ(7700)
  • モデル(1168)
  • 最適(494)
• Amazon EC2 Inf1、Inf2 インスタンスにおける FastAPI と PyTorch モデルの AWS Inferentia 利用時の最適化 | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • EC(1409)
  • FastAPI(1)
  • INF(11)
  • Inferentia(18)
  • PyTorch(24)
  • Services(6355)
  • Web(9079)
  • イン(632)
  • スタンス(53)
  • ブログ(7700)
  • モデル(1168)
  • 利用(5066)
  • 最適(494)
• AWS Inferentia2 で Stable Diffusion のパフォーマンスを最大化し、推論コストを削減する | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • Diffusion(22)
  • Inferentia(18)
  • Services(6355)
  • Stable(290)
  • Web(9079)
  • コスト(594)
  • パフォーマンス(321)
  • ブログ(7700)
  • 削減(645)
  • 推論(62)
  • 最大(1010)
• Amazon SageMaker 上で AWS Inferentia2 と AWS Trainium を使って、低コストで高性能な生成系 AI 推論を実現 | Amazon Web Services ブログ
  • ai(5172)
  • Amazon(8250)
  • AWS(3959)
  • Inferentia(18)
  • SageMaker(362)
  • Services(6355)
  • Trainium(9)
  • Web(9079)
  • コスト(594)
  • ブログ(7700)
  • 実現(3115)
  • 性能(411)
  • 推論(62)
  • 生成(1189)
• 大規模モデル推論コンテナを使って AWS Inferentia2 に大規模言語モデルをデプロイ | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • Inferentia(18)
  • Services(6355)
  • Web(9079)
  • コンテナ(345)
  • デプロイ(173)
  • ブログ(7700)
  • モデル(1168)
  • 大規模(684)
  • 推論(62)
  • 言語(520)
• ByteDance が AWS Inferentia の利用により、推論におけるレイテンシの削減とスループットの向上とともに、最大で60
  • 60(138)
  • AWS(3959)
  • Bytedance(51)
  • Inferentia(18)
  • スループット(24)
  • レイテンシ(14)
  • 利用(5066)
  • 削減(645)
  • 向上(1421)
  • 推論(62)
  • 最大(1010)
• Exafunction で AWS Inferentia による機械学習推論のベストプライス・パフォーマンスを実現 | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • Exafunction(1)
  • Inferentia(18)
  • Services(6355)
  • Web(9079)
  • パフォーマンス(321)
  • ブログ(7700)
  • プライス(22)
  • ベスト(150)
  • 学習(804)
  • 実現(3115)
  • 推論(62)
  • 機械(459)
• Amazon Search がAWS Inferentiaで検索システムのコストを85
  • 85(29)
  • Amazon(8250)
  • AWS(3959)
  • Inferentia(18)
  • Search(289)
  • コスト(594)
  • システム(6050)
  • 検索(1504)
• AWS CDK で作る AWS Inferentia と Amazon ECS を利用した推論環境(Part 2) | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • CDK(45)
  • ECS(103)
  • Inferentia(18)
  • part(140)
  • Services(6355)
  • Web(9079)
  • ブログ(7700)
  • 利用(5066)
  • 推論(62)
  • 環境(1705)
• AWS CDK で作る AWS Inferentia と Amazon ECS を利用した推論環境(Part 1) | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • CDK(45)
  • ECS(103)
  • Inferentia(18)
  • part(140)
  • Services(6355)
  • Web(9079)
  • ブログ(7700)
  • 利用(5066)
  • 推論(62)
  • 環境(1705)
• InfoJobs (Adevinta) が AWS Inferentia と Amazon SageMaker で NLP モデル予測のパフォーマンスをどのように向上させたか | Amazon Web Services ブログ
  • Adevinta(1)
  • Amazon(8250)
  • AWS(3959)
  • Inferentia(18)
  • InfoJobs(1)
  • NLP(6)
  • SageMaker(362)
  • Services(6355)
  • Web(9079)
  • パフォーマンス(321)
  • ブログ(7700)
  • モデル(1168)
  • 予測(1072)
  • 向上(1421)
• AWS Inferentiaを使用して Amazon EKS で 3,000種類のディープラーニングモデルを 1 時間あたり 50 USD 以下で提供 | Amazon Web Services ブログ
  • 000(324)
  • 3(61)
  • 50(318)
  • Amazon(8250)
  • AWS(3959)
  • EKS(144)
  • Inferentia(18)
  • Services(6355)
  • USD(7)
  • Web(9079)
  • ディープ(161)
  • ブログ(7700)
  • モデル(1168)
  • ラーニング(201)
  • 以下(45)
  • 使用(2253)
  • 提供(15153)
  • 時間(671)
• 機械学習と AWS Inferentia を使用した広告検証のスケーリング | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • Inferentia(18)
  • Services(6355)
  • Web(9079)
  • スケーリング(49)
  • ブログ(7700)
  • 使用(2253)
  • 学習(804)
  • 広告(3914)
  • 検証(839)
  • 機械(459)
• AWS Inferentia上のPyTorch自然言語処理アプリケーションにおいて、12倍のスループットと最小のレイテンシーを実現 | Amazon Web Services ブログ
  • 12(1322)
  • Amazon(8250)
  • AWS(3959)
  • Inferentia(18)
  • PyTorch(24)
  • Services(6355)
  • Web(9079)
  • アプリケーション(960)
  • シー(218)
  • スループット(24)
  • テン(126)
  • ブログ(7700)
  • レイ(41)
  • 処理(901)
  • 実現(3115)
  • 最小(67)
  • 自然(145)
  • 言語(520)
• AWS Inferentiaを搭載した Inf1インスタンスが東京リージョンで利用可能になりました | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • INF(11)
  • Inferentia(18)
  • Services(6355)
  • Web(9079)
  • インスタンス(320)
  • ブログ(7700)
  • リージョン(327)
  • 利用(5066)
  • 可能(4168)
  • 搭載(1308)
  • 東京(1384)
• Amazon EC2アップデート – 高性能で費用対効果の高い推論のための AWS Inferentia チップを搭載した Inf1 インスタンス | Amazon Web Services ブログ
  • Amazon(8250)
  • AWS(3959)
  • EC(1409)
  • INF(11)
  • Inferentia(18)
  • Services(6355)
  • Web(9079)
  • ため(2486)
  • アップデート(1171)
  • インスタンス(320)
  • チップ(228)
  • ブログ(7700)
  • 性能(411)
  • 推論(62)
  • 搭載(1308)
  • 費用対効果(21)