- AmazonがLLMコーディングセキュリティの責任あるAIに焦点を当てたグローバル大学コンペを発表
- 「Amazon Trusted AI Challenge」は、2024年11月に開始される競技のために選ばれた10チームごとに25万ドルのスポンサーシップと月額AWSクレジットを提供
- 優勝チームには、現金賞として70万ドルを獲得する機会がある
- 学生は、AIモデルを開発するか、AIユーザーエクスペリエンスを向上させ、誤用を防ぎ、ユーザーがより安全なコードを作成するための赤チームを構築するトーナメント形式の競技に参加する
- モデル開発者は、コードを生成するAIモデルにセキュリティ機能を追加することに焦点を当て、テスターはこれらのモデルをテストするための自動化された方法を作成
- 競技の各ラウンドは、強みと弱みを特定することでモデルと技術を改善するためにチームが複数の相互作用を行う
- Amazon AGIのシニアバイスプレジデント兼ヘッドサイエンティストのRohit Prasad氏は、「LLMのコーディング能力を向上させ、可能な脆弱性を自動的に特定し、これらのモデルを効果的に保護するための新しい技術を探求している」と述べた
- Prasad氏は、「Amazon Trusted AI Challengeの目標は、学生のイノベーションが、信頼を維持しつつ生成的AIが一貫して開発される未来を築くのにどのように役立つかを示すと同時に、LLMの誤用に対抗しセキュリティを向上させる効果的な方法を強調すること」と述べた
この記事では、AmazonがLLMコーディングセキュリティに焦点を当てた大学コンペを発表したことが紹介されています。競技では、学生がAIモデルを開発したり、ユーザーエクスペリエンスを向上させたり、コードのセキュリティを強化したりすることが求められます。Amazonの取り組みは、若手の優秀な人材と協力して、より堅牢で安全なコーディングシステムを構築する有望な取り組みであると感じます。
元記事: https://analyticsindiamag.com/amazon-announces-trusted-ai-challenge-for-llm-coding-security/