2024年5月12日 スタッフ投稿
英国AI安全研究所、世界中のAI安全性評価の強化を目的としたテストプラットフォーム「Inspect」をリリース
英国 AI 安全研究所の評価プラットフォーム Inspect が、世界中の AI コミュニティに公開されました。
英国政府は、この動きがAIモデルの安全な革新への道を開くものだと述べた。
英国は、世界初の政府支援による AI 安全研究所を設立した後、AI 安全性評価に関する世界的な協力の強化に向けて取り組みを続けています。
同研究所は、Inspect を世界コミュニティに提供することで、世界中で実施されている AI 安全性評価の取り組みを加速させ、安全性テストの改善とより安全なモデルの開発につなげています。これにより、世界中で AI 安全性評価に一貫したアプローチが可能になります。
Inspect は、スタートアップ企業、学術機関、AI 開発者から国際政府に至るまでのテスト担当者が個々のモデルの特定の機能を評価し、その結果に基づいてスコアを生成できるようにするソフトウェア ライブラリです。
Inspect は、コア知識、推論能力、自律機能など、さまざまな分野でモデルを評価するために使用できます。オープンソース ライセンスを通じてリリースされたため、Inspect は AI コミュニティが自由に使用できるようになりました。
このプラットフォームは現在利用可能であり、政府支援機関が先頭に立っていたAI安全性テストプラットフォームがより広範な利用のためにリリースされるのは初めてのことだ。
この発表は、英国を代表するAI研究者らの発案によるもので、AI開発の重要な時期に行われました。2024年中にさらに強力なモデルが市場に登場することが予想されており、安全で責任あるAI開発の推進がこれまで以上に急務となっています。
コアウィーブが英国に10億ポンドを投資
「AIの安全性に関する英国のリーダーシップの絶え間ない鼓舞の一環として、AI Safety InstituteのテストプラットフォームであるInspectをオープンソース化することを承認しました」と、科学・イノベーション・技術大臣のミシェル・ドネラン氏は述べた。
「これにより、英国の創意工夫がAIを安全にする世界的な取り組みの中心となり、この分野における世界的リーダーとしての地位が確固たるものとなる。」
AI Safety Instituteの会長イアン・ホガース氏（写真）は次のように語った。「Inspectプラットフォームをオープンソース化できたことを誇りに思います。
「AI 安全性テストにおけるコラボレーションの成功は、評価に対する共通のアクセス可能なアプローチを持つことを意味し、Inspect が AI 安全性研究所、研究機関、学術機関の基盤となることを願っています。」
「私たちは、GPT-NeoX、OLMo、Pythia などの、公開されているトレーニング データと OSI ライセンスのトレーニングおよび評価コード、モデルの重み、部分的にトレーニングされたチェックポイントを持つ、主要なオープン ソース AI 開発者からインスピレーションを得てきました。これは、私たちからの貢献の取り組みです。」
「世界中の AI コミュニティが Inspect を使用して独自のモデル安全性テストを実行するだけでなく、オープンソース プラットフォームを適応および構築して、全体的に高品質の評価を作成できるようになることを期待しています。」
Innovate UK が資金提供した 21 の「責任ある AI」プロジェクト
DDI 分析・行動研究センター所長
ヘルスケアコンテンツエグゼクティブ、Open Medical
DDI 分析・行動研究センター所長
ヘルスケアコンテンツエグゼクティブ、Open Medical
275 ディーンズゲート、オフィス 63、マンチェスター M3 4EL
© ビジネスクラウドパブリッシングリミテッド
元記事: https://businesscloud.co.uk/news/uk-open-sources-ai-safety-evaluations-platform/