• 与えられた基本的な説明とトレーニング例から、大規模言語モデル(LLM)用のテキストプロンプトを合成する問題を解決するアルゴリズム
  • 既存のアルゴリズム的アプローチが複数の側面をカバーできるかどうかは不明
  • UniPromptアルゴリズムは、タスクの複数の側面を学習するものとしてプロンプト最適化を捉える
  • プロンプトは疎結合の意味的セクションに分解でき、異なるバッチを使用してタスクの異なる側面を学習できるようにクラスタリングされたバッチを使用
  • UniPromptは、各プロンプトセクションの初期候補を生成する生成モデルと、複数のミニバッチから提案された編集を概念的説明に集約するフィードバックメカニズムから構成される

UniPromptによって生成されたプロンプトは、人間が調整したプロンプトや最先端の手法から生成されたプロンプトよりも高い精度を達成することが示された。特に、従来の手法では生成できなかった長く複雑なプロンプトを生成することができる。

UniPromptのコードは近日中に公開されます。

この研究では、プロンプト最適化の問題に構造を見出し、異なるアプローチを提案しています。UniPromptアルゴリズムの成果は、高い精度のプロンプト生成につながり、将来的な研究や応用に期待が持てると考えられます。

元記事: https://www.microsoft.com/en-us/research/project/uniprompt-a-structured-approach-to-prompt-optimization/