建築家または建築家を目指す人が知っておくべき事柄を毎月まとめた概要です。
プロフェッショナルソフトウェア開発における知識とイノベーションの普及を促進
Git は、ソフトウェア開発におけるバージョン管理によく使われるツールです。複数の Git アカウントを使用することは珍しくありません。Git アカウントを正しく構成して切り替えることは困難です。この記事では、Git が提供するアカウント構成とその制限、およびプロジェクトの親ディレクトリの場所に基づいてアカウントを自動的に切り替えるソリューションについて説明します。
Lily Mara と Hunter Laine が、システムの設計、パフォーマンス特性、拡張方法について説明します。
Neha Narkhede 氏は、生成 AI の進歩を活用した不正行為とリスク管理のビジョンについて説明します。
このポッドキャストでは、Culture & Methods の主任編集者である Shane Hastie が、Dannielle Pearson とテクノロジーにおける批判的思考の重要性について話し合いました。
Ranjith Kumar は、グローバルな容量を持つサービス所有者に提示される抽象化と保証、数十の地域にわたるワークロードを管理するための設計と実装、さまざまな需要の分類とモデル化、さまざまな地域間で需要をシフトすることによるグローバルな容量管理の実現について説明します。
ソフトウェア開発の意思決定をレベルアップするための変革的な洞察を発見してください。限定オファーにはコード LIMITEDOFFERIDSBOSTON24 を使用してください。
上級開発者から実践的なアドバイスを得て、現在の開発課題を解決しましょう。限定オファーにはコード LIMITEDOFFERIDSMUNICH24 を使用してください。
注目すべき新たなトレンドを発見して、ソフトウェア スキルをレベルアップしましょう。今すぐ登録してください。
すべてのプロフェッショナルが知っておくべきすべてのトピック、テクノロジー、テクニックに関する月刊ガイド。無料で購読できます。
InfoQ ホームページ ニュース OpenAI が新しいファインチューニング API 機能をリリース
2024年4月30日 2分で読める
OpenAI は、微調整 API の新機能のリリースを発表しました。この機能により、モデル開発者は微調整プロセスをより細かく制御し、モデルのパフォーマンスをより深く理解できるようになります。
アップデートには、微調整中のトレーニング エポックごとにモデル チェックポイントを作成する機能、検証データセット全体のメトリクスを計算する機能、重みやバイアスなどのサードパーティとの統合機能が含まれています。API の変更に加えて、OpenAI は微調整ダッシュボードも更新し、開発者がトレーニング ハイパーパラメータとジョブをより細かく制御できるようになり、メトリクスをより深く理解できるようになりました。モデル プレイグラウンドには、ユーザーが 1 つのプロンプトを入力するだけで、さまざまな標準モデルと微調整済みモデルの出力を比較できる、並列モデル比較機能が追加されました。最後に、OpenAI はカスタム モデル プログラムのアップデートを発表しました。これは、OpenAI のチームが組織と協力してモデルの微調整を支援する、アシスト付き微調整です。OpenAI によると:
将来的には、大多数の組織が、業界、ビジネス、またはユースケースに合わせてカスタマイズされたモデルを開発するようになると考えられます。カスタム モデルの構築にはさまざまな手法が利用できるため、あらゆる規模の組織がパーソナライズされたモデルを開発し、AI 実装からより有意義で具体的な影響を実現できます。重要なのは、ユースケースの範囲を明確に定め、評価システムを設計して実装し、適切な手法を選択し、モデルが最適なパフォーマンスに達するまで時間をかけて反復する準備をすることです。
GPT-3.5やGPT-4などの基礎モデルは、さまざまなタスクで「そのまま」優れたパフォーマンスを発揮しますが、微調整されたモデルは特定のタスクでより優れたパフォーマンスを発揮したり、「特定の根深い動作パターンを示す」ようにしたりできます。さらに、これらのモデルは冗長なプロンプトを必要としないことが多いため、コストとレイテンシを抑えて動作できます。InfoQは、2023年にOpenAIの微調整APIが最初にリリースされたことを取り上げました。それ以来、OpenAIは「何十万ものモデル」のトレーニングに使用されていると主張しています。
OpenAIは、2023年のDev Dayでカスタムモデルプログラムを発表しました。このプログラムでは、「選ばれた」組織がOpenAIの研究者と協力してトレーニングプロセスの任意のステップを変更し、組織向けのカスタムモデルを「ゼロから」作成できます。OpenAIは、このプログラムに参加したある顧客が「事実に基づく回答が83％増加」したカスタムモデルを構築したと主張しています。このプログラムで発表された新しいサービスは、完全に新しいモデルを構築するものではありません。代わりに、APIでは利用できない「モデルのパフォーマンスを最大化するためのカスタムパラメータとメソッド」を含む微調整機能を顧客に提供します。
このリリースに関する Hacker News の議論で、あるユーザーが次のように指摘しました。
ちなみに、1 月以前に OpenAI モデルの微調整を試みて、完成したモデルの品質に満足できなかった場合は、もう一度試してみる価値があります。過去数か月間に、OpenAI は予告なしの変更をいくつか行い、微調整されたモデルを大幅に強化しました。とはいえ、Mixtral の微調整は依然として GPT-3.5 の微調整よりもパフォーマンスが優れており、提供コストもはるかに安いことがわかりました。
OpenAI の YouTube チャンネルには、2023 Dev Day での講演が含まれています。この講演では、同社の Fine-Tuning 製品のエンジニアリング リーダーが、ファインチューニングやプロンプト エンジニアリングなど、さまざまなパフォーマンス向上手法を比較しています。OpenAI のドキュメントでは、プロンプト エンジニアリングや関数呼び出しなど、ファインチューニングの代替案についても提案されています。
InfoQ の先週のコンテンツのまとめが毎週火曜日に配信されます。250,000 人以上のシニア開発者のコミュニティに参加してください。例を見る
InfoQ の先週のコンテンツのまとめが毎週火曜日に配信されます。250,000 人以上のシニア開発者のコミュニティに参加してください。例を見る
2024 年 6 月 24 日 – 25 日 | ボストン、マサチューセッツ州今日の重要な開発優先事項を明確にする実用的な洞察。InfoQ Dev Summit Boston は、InfoQ が主催する 2 日間のカンファレンスで、シニア ソフトウェア開発者が現在直面している最も重要な技術的決定に焦点を当てています。20 以上の技術講演を詳しく聞き、ジェネレーティブ AI、セキュリティ、最新の Web アプリケーションなどを扱うシニア ソフトウェア開発者から革新的な学びを得ましょう。今すぐ登録
InfoQ.com およびすべてのコンテンツの著作権は © 2006-2024 C4Media Inc. に帰属します。プライバシー通知、利用規約、Cookie ポリシー
元記事: https://www.infoq.com/news/2024/04/openai-fine-tuning/