要約:
- Patronus AI Inc.は、大規模言語モデルの信頼性の問題を検出し修正するスタートアップで、1700万ドルの投資を獲得した。
- Notable CapitalがSeries Aラウンドを主導し、Datadog Inc.、Lightspeed Venture Partners、Factorial Capitalなどが参加した。
- Patronus AIのプラットフォームは、AIを使用して信頼性の評価を行い、誤った出力を生成させるアドバーサリープロンプトを自動的に生成する。
- 同社のソフトウェアは、信頼性テストの結果を可視化するダッシュボードも提供しており、RAG機能を持つLLMの信頼性向上を目指している。
- 新たな資金調達で製品開発を支援し、AI研究とエンジニアリングチームを拡大する予定。
感想:
Patronus AIは、大規模言語モデルの信頼性向上に焦点を当てたプラットフォームを提供しており、AIを活用したアプローチが注目される。特に、アドバーサリープロンプトの生成や外部データの活用による信頼性評価は画期的だと感じる。さらに、RAG機能を活用したLLMの品質向上や、デプロイ後の持続的な評価にも対応している点が評価される。今後の成長に期待が高まる。
元記事: https://siliconangle.com/2024/05/22/patronus-ai-reels-17m-llm-reliability-testing-platform/