本日、Amazon Titan モデル ファミリーに新しいメンバーが加わりました。Amazon Titan Text Premier が Amazon Bedrock でご利用いただけるようになりました。
Amazon Titan Text Lite と Titan Text Express に続く Titan Text Premier は、Amazon Titan モデル ファミリーの最新の大規模言語モデル (LLM) であり、Amazon Bedrock 内でのモデルの選択肢がさらに広がります。Bedrock では、次の Titan Text モデルから選択できるようになりました。
それでは、Titan Text Premier についてさらに詳しく説明しましょう。
Amazon Titan Text Premier モデルのハイライト Titan Text Premier は、責任ある人工知能 (AI) プラクティスを組み込みながら微調整することで、高品質の RAG およびエージェントベースのアプリケーションとカスタマイズ向けに最適化されています。
RAG およびエージェントベースのアプリケーション向けに最適化 – Titan Text Premier は、顧客からのフィードバックに応えて、特に RAG およびエージェントベースのアプリケーション向けに最適化されています。回答者は、生成 AI アプリケーションの構築における主要なコンポーネントの 1 つとして RAG を挙げています。モデル トレーニング データには、要約、Q&A、会話型チャットなどのタスクの例が含まれており、Amazon Bedrock のナレッジ ベースおよびエージェントとの統合向けに最適化されています。最適化には、特定のプロンプト形式など、これらの機能のニュアンスを処理するためのモデルのトレーニングが含まれます。
すでに、電子メールなどの非構造化データから要約を作成するインタラクティブな AI アシスタントを実装するために Titan Text Premier を検討しているお客様がいます。また、企業システムやデータ ソース全体から関連情報を抽出し、より意味のある製品要約を作成するためのモデルも検討されています。
これは私の同僚 Brooke Jamieson が作成したデモ ビデオで、Titan Text Premier をビジネスに活用する方法の例を示しています。
Amazon Titan Text Premier のカスタム微調整 (プレビュー) – Amazon Bedrock で独自のデータを使用して Titan Text Premier を微調整し、独自のタスク固有のラベル付きトレーニングデータセットを提供することで、モデルの精度を高めることができます。Titan Text Premier をカスタマイズすると、モデルをさらに特化し、会社のブランド、スタイル、声、サービスを反映した独自のユーザーエクスペリエンスを作成できます。
責任を持って構築 – Amazon Titan Text Premier には、安全で、セキュリティが高く、信頼できるプラクティスが組み込まれています。Amazon Titan Text Premier の AWS AI サービスカードには、安全性と公平性から正確性と堅牢性まで、主要な責任ある AI ベンチマークにわたるモデルのパフォーマンスが文書化されています。このモデルは Amazon Bedrock の Guardrails とも統合されているため、アプリケーションの要件と責任ある AI ポリシーに合わせてカスタマイズされた追加の保護手段を実装できます。Amazon は、Amazon Titan モデルを責任を持って使用するお客様に対して、一般に利用可能な Amazon Titan モデルまたはその出力がサードパーティの著作権を侵害しているという申し立てに対して補償します。
Amazon Titan Text Premier モデルのパフォーマンス Titan Text Premier は、企業に関連する幅広いインテリジェンスとユーティリティを提供するように構築されています。次の表は、価格が同等のモデルと比較して、指示の追従、読解、マルチステップ推論などの重要な機能を評価する公開ベンチマークの評価結果を示しています。これらの多様で困難なベンチマークでの優れたパフォーマンスは、Titan Text Premier がエンタープライズ アプリケーションの幅広いユース ケースに対応できるように構築されており、優れた価格パフォーマンスを提供していることを強調しています。以下にリストされているすべてのベンチマークでは、スコアが高いほど優れたスコアです。
注: ベンチマークでは、少数ショット プロンプトとゼロ ショット プロンプトのバリエーションを使用してモデルのパフォーマンスを評価します。少数ショット プロンプトでは、特定のタスクを解決する方法の具体的な例をいくつか (3 ショットの場合は 3 つ、5 ショットの場合は 5 つなど) をモデルに提供します。これは、コンテキスト内学習と呼ばれる、例から学習するモデルの能力を示します。一方、ゼロ ショット プロンプトでは、例を提供せずに、既存の知識と一般的な言語理解のみに頼って、タスクを実行するモデルの能力を評価します。
Amazon Titan Text Premier の使用を開始する Amazon Titan Text Premier へのアクセスを有効にするには、Amazon Bedrock コンソールに移動し、左下のペインで [モデルアクセス] を選択します。[モデルアクセスの概要] ページで、右上隅にある [モデルアクセスの管理] ボタンを選択し、Amazon Titan Text Premier へのアクセスを有効にします。
Bedrock コンソールで Amazon Titan Text Premier を使用するには、左側のメニュー ペインの Playgrounds で Text または Chat を選択します。次に、モデルの選択を選択し、カテゴリとして Amazon、モデルとして Titan Text Premier を選択します。モデルを調べるには、例を読み込むことができます。次のスクリーンショットは、モデルの思考連鎖 (CoT) と推論機能を示す例の 1 つを示しています。
[API リクエストの表示] を選択すると、現在のサンプルプロンプトで AWS コマンドラインインターフェイス (AWS CLI) を使用してモデルを呼び出す方法のコード例を取得できます。AWS SDK を使用して Amazon Bedrock と利用可能なモデルにアクセスすることもできます。次の例では、AWS SDK for Python (Boto3) を使用します。
Amazon Titan Text Premier の動作 このデモでは、Amazon Titan Text Premier に、Amazon Titan Image Generator と透かし検出機能の可用性を発表した以前の AWS ニュースブログ投稿の 1 つを要約してもらいます。
要約タスクの場合、推奨されるプロンプト テンプレートは次のようになります。
プロンプトのベストプラクティスの詳細については、Amazon Titan テキストプロンプトエンジニアリングガイドラインをご覧ください。
このテンプレートを例に合わせて調整し、プロンプトを定義します。準備として、ニュース ブログの投稿をテキスト ファイルとして保存し、投稿文字列変数に読み込みます。
以前の Amazon Titan Text モデルと同様に、Amazon Titan Text Premier は、応答のランダム性と多様性を制御するための温度と topP 推論パラメータ、および応答の長さを制御するための maxTokenCount と stopSequences をサポートしています。
次に、InvokeModel API を使用して推論リクエストを送信します。
Amazon Titan Image Generator が Amazon Bedrock で一般提供され、画像の即時カスタマイズを含む新しい画像生成および画像編集機能を使用して、生成 AI アプリケーションを簡単に構築および拡張できるようになりました。Titan Image Generator の透かし検出が Amazon Bedrock コンソールで一般提供されました。本日、この透かしの存在をチェックし、画像が Titan Image Generator によって生成されたかどうかを確認するのに役立つ、Amazon Bedrock の新しい DetectGeneratedContent API (プレビュー) も導入されました。
さまざまなプログラミング言語でのその他の例については、Amazon Bedrock ユーザーガイドのコード例のセクションをご覧ください。
その他のリソース 役に立つと思われる追加のリソースをいくつか紹介します。
想定されるユースケースなど — モデルの想定されるユースケース、設計、デプロイメント、パフォーマンス最適化のベストプラクティスの詳細については、Amazon Titan Text Premier の AWS AI サービスカードをご覧ください。
AWS Generative AI CDK コンストラクト — Amazon Titan Text Premier は、AWS クラウド開発キット (AWS CDK) のオープンソース拡張機能である AWS Generative AI CDK コンストラクトによってサポートされており、一般的な生成 AI パターン用の AWS CDK のサンプル実装を提供します。
Amazon Titan モデル — Amazon Titan モデル全般について詳しく知りたい場合は、次のビデオをご覧ください。Amazon Bedrock の応用科学ディレクターである Sherry Marcus 博士が、Amazon がビジネス全体で AI と機械学習 (ML) を革新してきた 25 年間の経験が Amazon Titan モデル ファミリーにどのように組み込まれているかについて説明します。
現在、Amazon Titan Text Premier は、AWS 米国東部 (バージニア北部) リージョンでご利用いただけます。Amazon Titan Text Premier のカスタム微調整は、AWS 米国東部 (バージニア北部) リージョンでプレビューとしてご利用いただけます。今後の更新については、リージョンの完全なリストを確認してください。Amazon Titan モデル ファミリーの詳細については、Amazon Titan 製品ページをご覧ください。料金の詳細については、Amazon Bedrock の料金ページをご覧ください。
今すぐ Amazon Bedrock コンソールで Amazon Titan Text Premier を試し、Amazon Bedrock の AWS re:Post または通常の AWS の連絡先にフィードバックを送信し、community.aws で生成 AI ビルダーコミュニティに参加してください。
Antje Barth は、AWS の Generative AI のプリンシパル デベロッパー アドボケートです。彼女は、O'Reilly の書籍 Generative AI on AWS および Data Science on AWS の共著者です。Antje は、世界中の AI/ML カンファレンス、イベント、ミートアップで頻繁に講演しています。また、Women in Big Data のデュッセルドルフ支部の共同設立者でもあります。
Amazon Bedrock で利用可能な新しい Amazon Titan Text Premier モデルを使用して、RAG およびエージェントベースの生成 AI アプリケーションを構築します | AWS ニュースブログ
ByManagetech
5月 8, 2024