要約:
- AIはますます一般的で強力になり、リスクを軽減するためにワシントンと北京が協力する必要がある。
- AIシステムはより強力で汎用性が高く、ますます普及していくと信じられる理由がいくつかある。
- 最も基本的な理由は、スケーリング仮説と呼ばれる理論であり、より多くのパラメータ、データ、計算が与えられることでAIシステムは改善されるとされる。
- AIの調整問題は人類にとって受け入れがたいリスクをもたらす。技術的および政策的側面のAI調整問題を解決するために、米国が追求すべき3つの一般的な方針がある。
- 技術側面では、調整研究を大幅に拡大し、AIの安全なシステムをテストするための仮想環境を開発する必要がある。
- 政策面では、最先端のAIモデルの厳格なテストを開発前に要求し、これらの要件を定期的な監査で強制する必要がある。
- 米国はこれらの政策を実施し、完璧に施行しても、安全で有益なAIの開発を保証することはできない。
- 米国はこの問題を適切に取り組むために中国と協力する必要がある。
考察:
AIの進化はますます加速しており、その強力さや普及度合いには注意が必要です。AIの調整問題は重要であり、技術的および政策的なアプローチが必要です。特に、AIの安全性に関する研究の拡大や最先端モデルのテストが重要であり、米中間での協力も重要です。AIの進化に伴う潜在的なリスクを適切に管理するために、国際的な協力と継続的な取り組みが不可欠であると考えられます。
元記事: https://nationalinterest.org/blog/techland/can-us-and-china-cooperate-ai-211935