英国の AI Safety Institute は、2024 年 5 月 10 日より AI テストおよび評価プラットフォームを世界中の AI コミュニティに公開しました。
AI安全研究所とインド科学技術イノベーション省（DIST）によると、「Inspect」と呼ばれるこのプラットフォームは、AIモデルの安全な革新への道を開くことになるという。
同研究所は、Inspect を世界コミュニティに公開することで、国際的に実施されている AI 安全性評価の作業を加速させるのに役立つと述べています。その目的は、安全性テストの改善と、より安全なモデルの開発につながることです。
政府によれば、これにより世界中でAIの安全性評価に一貫したアプローチが可能になるという。
Inspect は、スタートアップ企業、学術機関、AI 開発者から国際政府に至るまでのテスト担当者が個々のモデルの特定の機能を評価し、その結果に基づいてスコアを生成できるようにするソフトウェア ライブラリです。
Inspect は、コア知識、推論能力、自律機能など、さまざまな分野でモデルを評価するために使用できます。オープンソース ライセンスを通じてリリースされたため、Inspect は AI コミュニティが自由に使用できるようになりました。
AI Safety Institute の会長である Ian Hogarth 氏は次のようにコメントしています。「私たちは、GPT-NeoX、OLMo、Pythia などのプロジェクトをはじめとする、オープンソース AI の主要開発者からインスピレーションを得てきました。これらのプロジェクトには、公開されているトレーニング データと OSI ライセンスのトレーニングおよび評価コード、モデルの重み、部分的にトレーニングされたチェックポイントがあります。これは、私たちの貢献への取り組みです。」
「世界中の AI コミュニティが Inspect を使用して独自のモデル安全性テストを実行するだけでなく、オープンソース プラットフォームを適応および構築して、全体的に高品質の評価を作成できるようになることを期待しています。」
英国AI安全研究所は、2023年11月にイギリスのブレッチリー・パークで開催されたAI安全サミットで、英国のリシ・スナック首相によって発表されました。
当時、スナック氏は、英国政府がこの新組織に抱いている野望は、新興のAIの安全性をテストする任務を負った世界的な拠点にすることだと述べた。
元記事: https://www.infosecurity-magazine.com/news/platform-to-accelerate-safe-ai/