• AWSは2023年のre:Inventカンファレンスで「プラグ&プレイ」Amazon Qアシスタントを導入し、企業が一般的な生成AIチャットボットを採用しやすくしました。
  • AWSはLLMops(LLMsの運用と管理)のための新しいツールを開発および追加し、企業が自社または他社のLLMを使用して独自の生成AIアシスタントを構築するのを支援しています。
  • AWSはMLopsとファンデーションLLMオペレーションの機能に多くの投資を行い、企業が製品でさまざまなLLMとMLモデルを管理できるようにしています。
  • 新しい機能は近々追加される見込みで、Mehrotra氏は企業が使用するLLMsの保守、微調整、更新プロセスを支援することに焦点を当てています。
  • 企業はLLMops機能を有用と感じるシナリオがいくつかあり、AWSはそのうちいくつかにツールを提供しています。

私の考え:
AWSは生成AIの実装に焦点を当てた新しい機能を追加しており、企業が効率的にLLMsをトレーニングおよび展開できるよう支援しています。特に生成AIの生産性向上やコード生成のためにLLMsを活用しようとする企業の需要が急増しているとのことです。SageMakerの顧客数が急増しており、生成AIの実験を本番環境に移行する企業も増えているようです。

元記事: https://www.infoworld.com/article/3715508/aws-is-investing-heavily-in-building-tools-for-llmops.html