InfoWorld 編集長 |
AI 企業 OpenAI は、「AI モデルがどのように動作するべきかについての公の議論を深める」ために、望ましいモデル動作を形成するための同社のアプローチを共有するドキュメントである Model Spec を導入しました。
現在最初のドラフト段階にあるモデル仕様は、5月8日に発表されました。この文書は、望ましいモデル動作を形成するためのOpenAIのアプローチと、競合が発生した場合に同社がトレードオフを評価する方法を規定しています。このアプローチには、人間のフィードバックからの強化学習（RLHF）に取り組むOpenAIの研究者とAIトレーナーの指針となる目標、ルール、およびデフォルトの動作が含まれています。同社はまた、モデルがモデル仕様から直接どれだけ学習できるかについても調査する予定です。
OpenAIによると、モデル仕様は、現在OpenAIで使用されているドキュメント、モデルの動作設計に関する同社の経験と進行中の研究、およびドメイン専門家からの意見を含む最近の作業に基づいている。同社は、モデル仕様が時間の経過とともに変更されることを予想している。
モデル仕様の目的には、開発者とユーザーを支援し、人類に利益をもたらし、OpenAI に良い影響を与えることが含まれます。ルールには、指揮系統に従うこと、適用法に従うこと、作成者を尊重すること、プライバシーを保護すること、職場で閲覧できないコンテンツで応答しないこと、情報ハザードを提供しないことが含まれます。デフォルトの動作には、公平性と親切さを奨励すること、仕事に適したツールを使用すること、ユーザーまたは開発者の最善の意図を想定すること、不確実性を表現すること、そして越権行為をせずに可能な限り役立つことが含まれます。
OpenAI は、モデル仕様に関する作業を進行中の公開対話の一部とみなしていると述べた。同社は、政策立案者、信頼できる機関、ドメイン専門家など、世界を代表する利害関係者と関わり、彼らがこのアプローチをどう理解しているか、支持するかどうか、さらに考慮すべき目標、ルール、デフォルトがあるかどうかを知る機会を求めている。
Paul Krill 氏は InfoWorld の編集長であり、アプリケーション開発を中心に記事を書いています。
著作権 © 2024 IDG Communications, Inc.
著作権 © 2024 IDG Communications, Inc.