要約:

  • エンタープライズは生成AIを利用しようとしており、広く使われるLarge Language Models(LLM)の採用により、性能を監視できる可観測性ツールへの新たな需要が生まれている。
  • New Relicの製品GVPであるAkshay Bhargava氏によると、企業はその可観測性ツールを使用して、さまざまなパラメータを追跡し、異なるLLMをテストしている。
  • New Relicは高性能なNvidia GPU上で実行されるAIワークロードの可観測性を向上させるために、Nvidiaと協力して取り組んでおり、Nvidia NIMとの統合を導入した。
  • AIの追加機能は、可観測性を新しい段階に導入し、AI機能を備えた新機能を提供するAIOpsオファリングに新機能をもたらしている。
  • 観測可能性が第3フェーズに移行するにつれて、AIを活用したインテリジェントアシスタントの使用が増加し、使用ベースの価格設定が強調されている。

感想:

生成AIの普及に伴い、企業は性能監視ツールへの需要が高まっています。New Relicの取り組みは、AIを活用し、可観測性を向上させることで、企業のイノベーションを促進しています。AIの追加機能は、デジタル自動化への依存度を高め、観測可能性をさらに重要なものにしています。また、使用ベースの価格設定の導入は、AIの普及においてポジションを確立するうえで重要であると考えられます。


元記事: https://diginomica.com/new-relic-llm-monitoring-observability-30