サンフランシスコを拠点とする Portkey.ai とシアトルの F5 は、信頼性が高く安全なエンタープライズ AI アプリケーションの提供を目的とした戦略的コラボレーションを開始しました。この提携により、Portkey.ai の AI ゲートウェイと可観測性スイートが F5 分散クラウド サービスと統合され、大規模言語モデル (LLM) アプリケーションのインテリジェントで制御された展開が可能になります。
この提携により、両社は LLM アプリケーションの導入、管理、監視に革命を起こし、企業に人工知能の活用における前例のないレベルの効率、信頼性、セキュリティを提供します。この提携は、Portkey.ai の LLM 導入の能力と F5 の堅牢なアプリケーション配信機能および最先端のセキュリティ対策の融合を表しています。
Portkey.ai と F5 の連携により、Portkey.ai の AI ゲートウェイによって実現されるインテリジェントな LLM オーケストレーションなど、さまざまな重要なメリットが生まれます。この機能は、機能性、パフォーマンス、可用性に基づいて API リクエストを最も適切な LLM バックエンドに巧みにルーティングし、最適な応答品質と効率性を保証します。また、F5 Distributed Cloud Services の高度な負荷分散およびトラフィック管理機能により、需要のピーク時でも複数の Portkey.ai インスタンス間でワークロードがシームレスに分散されるため、企業は高い可用性と拡張性も期待できます。
さらに、この提携により、Portkey.ai の組み込みフェイルオーバー メカニズムを通じて、自動フェイルオーバーと回復力が保証されます。このメカニズムは、問題が発生した場合にトラフィックを自動的に検出して代替 LLM バックエンドに再ルーティングし、企業への中断のないサービスを保証します。Portkey.ai の可観測性スイートは、包括的な可観測性と洞察も提供し、LLM のパフォーマンス、使用パターン、アプリケーションの健全性に関する貴重なデータを提供し、企業が LLM 展開を最適化するのに役立ちます。
Portkey.ai の共同創業者兼 CEO である Rohit Agarwal 氏は、F5 との提携に興奮を示し、企業に堅牢で制御された AI アプリケーションを提供するという Portkey.ai の使命における「重要なマイルストーン」であると述べました。さらに、「F5 の最先端のアプリケーション セキュリティおよび配信ソリューションを当社の AI ゲートウェイおよびオブザーバビリティ スイートと統合することで、企業が AI アプリケーションを大規模に導入および管理するための新たな可能性を切り開きます。このコラボレーションによりイノベーションが促進され、業界を問わず組織が LLM のパワーを自信を持って大規模に活用できるようになります」と付け加えました。
F5 のプロダクトマネジメント担当副社長である Pranav Dharwadkar 氏も、高いパフォーマンス、可用性、セキュリティを維持しながら、組織が高度なテクノロジーを導入および管理できるよう支援するという F5 の取り組みを挙げ、このコラボレーションを称賛しました。
Portkey.ai と F5 のこの協力的な取り組みは、AI アプリケーションの導入と管理の新しい標準をもたらし、医療や金融を含む多くの分野の企業が効果的で安全かつ信頼性の高い AI アプリケーションを提供できる可能性を広げます。Portkey.ai と F5 の共同ソリューションは、比類のない信頼性、制御性、安全性を備えた AI アプリケーションの管理を目指す企業に提供されます。

元記事: https://channellife.co.nz/story/portkey-ai-f5-launch-partnership-for-reliable-ai-apps-deployment