人工知能技術のポリシーと規制
- カリフォルニア州上院議会提案1047号（SB-1047）は、未来の人工知能（AI）システムからの潜在的な災害リスクに対処することを目的としており、開発者に合理的な注意を求めている。
- SB-1047は、巨額のコンピューティングパワーを使用してトレーニングされたAIモデルの開発者に、サイバーセキュリティ対策や安全プロトコルの実施を義務付けている。
- 修正されたSB-1047は、カリフォルニアの検事総長が重大な危害が迫っている場合にのみ企業を訴追できるように変更された。
- SB-1047は大規模な開発者を対象にしており、小規模なスタートアップやアカデミアは対象外である。
考察：
SB-1047は、巨額のコンピューティングパワーを使用している開発者に対する合理的な注意の義務を明確化しており、小規模な開発者を除外している点が重要である。修正された改正により、検事総長の訴追基準が変更され、法的環境の確実性が高まった。また、オープンソースAI開発者に対する影響や誤解についても明確に説明されている。
元記事: https://www.brookings.edu/articles/misrepresentations-of-californias-ai-safety-bill/