要約:
- Schmidt Sciencesが新しいAI Safety Scienceプログラムを立ち上げ、27のプロジェクトを選定。
- プログラムはAIシステムの安全性特性を理解するための基礎科学の開発に重点を置く。
- $10 millionの予算は基礎研究に充てられる。
- 2つの特集プロジェクトは、イリノイ大学アーバナ・シャンペーン校のCS教授Daniel KangとBo Liによって運営される。
- Daniel Kangは、AIエージェントが複雑なサイバーセキュリティ攻撃を行う能力を評価する。
- Bo Liは、AIシステムとAIエージェントを自動的に評価するための高度なレッドチーミングアルゴリズムを備えた仮想環境を設計・開発する。
- Eric Schmidtが設立した非営利団体Schmidt Sciencesは、AIセーフティプログラムを主導。
- AIの安全性と人間の価値との整合性を確保するために研究者を支援。
感想:
AIセーフティに関する研究は、AIの進化と普及に伴いますます重要になっています。Schmidt Sciencesがこのようなプログラムを立ち上げ、研究者をサポートすることは、技術の発展において重要な一歩だと感じます。人間の価値観や倫理を考慮したAIの開発が進められることは、将来的に社会全体の利益に繋がると期待されます。
元記事: https://siebelschool.illinois.edu/news/schmidt-sciences-AI-safety