• TetrateとBloombergが協力して、Cloud Native Computing Foundation(CNCF)が立ち上げたEnvoy Gatewayプロジェクトに基づく人工知能(AI)ゲートウェイの開発に取り組むことを発表
  • Envoy Gatewayプロジェクトは、大使ラボ、Fidelity Investments、Tetrate、VMwareによって牽引されているオープンソースの取り組みで、APIを管理するためのよりシンプルな方法を提供する
  • Envoy AI Gatewayに最初に含まれる機能は、アプリケーショントラフィック管理能力であり、統一されたインターフェースを介してLLMの使用を監視および制御することができる

この記事では、TetrateとBloombergがAIゲートウェイの開発に協力することが明らかにされました。Envoy Gatewayプロジェクトは、APIを管理するためのよりシンプルな方法を提供するための取り組みであり、Envoy AI Gatewayにはアプリケーショントラフィック管理機能が含まれます。これにより、LLMの制御や監視が簡素化されることが期待されます。

元記事: https://cloudnativenow.com/social-x/tetrate-allies-with-bloomberg-to-build-ai-gateway-based-on-envoy-and-kubernetes-apis/