• AWSは2023年のre:Inventカンファレンスで、汎用の生成AIチャットボットを採用しやすくするために、Amazon Qアシスタントを導入しました。
  • AWSは、LLMops(LLMsの運用と管理)向けの新しいツールを構築・追加することに投資しており、SageMakerにこれらの機能を追加する予定です。
  • 新機能は近いうちに追加される見込みで、企業が使用するLLMの維持、微調整、更新プロセスを支援することに焦点を当てています。
  • SageMakerは、モデルのパフォーマンスを評価し、インフラ要件を確認するためのツールを提供し、シャドウテストとClarifyなどの機能を提供しています。
  • 企業が生成AIを実装するための機能を追加しており、SageMaker HyperPodとSageMaker Inferenceなどの新しいオファリングを導入しています。

私の考え:AWSは、LLMopsやMLopsなどの機能を強化し、SageMakerを通じて企業が生成AIを効率的に運用できるようにしています。これにより、企業はモデルの維持や更新プロセスを容易に行えるようになり、生成AIの実装と活用が促進されるでしょう。

元記事: https://www.infoworld.com/article/3715508/aws-is-investing-heavily-in-building-tools-for-llmops.html