- AmazonがAmazon Trusted AI Challengeを開催
- 競技は大学生を対象とし、ジェネレーティブAI技術の革新とセキュリティを促進
- 今年のチャレンジは、責任あるAIと大規模言語モデル（LLM）コーディングセキュリティに焦点
- モデル開発チームとレッドチームがAIユーザーエクスペリエンス向上、誤用防止、安全なコード構築を目指して競い合う
- 選ばれた10チームには$250,000のスポンサーシップおよびAWSクレジットが支給
- Amazon Trusted AI ChallengeはLLMを使用したAI支援ソフトウェア開発ツールの安全性と信頼性向上を目指す
- 4つのトーナメントとライブ決勝イベントを通じて、レッドチームがモデル開発チームのAIモデルをテスト
- モデル開発チームはセキュリティを強化し、脅威を特定し、意図しない動作を防止するコード生成モデルを作成
- 参加提案締め切りは2024年9月1日
このAmazon Trusted AI Challengeは、AI技術を活用したソフトウェア開発ツールの安全性と信頼性向上を図ることを目指しています。競技を通じて、革新的なリスク軽減手法や効果的な安全対策の実装を発見することが目標です。
元記事: https://aws.amazon.com/blogs/publicsector/introducing-the-amazon-trusted-ai-challenge/