要約：
- AGIの安全性と信頼性を確保するために保証された安全なAIシステムの可能性を探る
- AIの安全性についての議論で、Dr. Ben GoertzelとDr. Steve OmohundroがAGIの安全性の重要性に焦点を当て、形式的手法の実装が必要であると述べた
- 形式的検証の重要性を強調し、MetaのHyperTree Proof Search（HTPS）などの自動定理証明の進歩がAIの行動を検証する上で重要であるとした
- プログラミング言語Saverの開発や「証明可能な契約」の導入など、AIの信頼性とセキュリティ向上のアプローチについても議論が行われた
- 安全なAI行動の必要性が強調され、国際的な協力が必要であるとの意見も示された
考察：
AIの安全性と信頼性確保には、形式的な検証が重要であり、自動定理証明の進歩がその実現に向けて重要である。安全なAIシステムの構築は複雑な課題であり、国際的な協力が不可欠であるとの指摘がされている。大規模な投資が求められるものの、技術の進歩によって克服可能な障壁である可能性も示唆されている。倫理的な考慮も重要であり、利益追求だけでなく安全保障にも配慮したアプローチが必要であるとされている。
元記事: https://blockchain.news/news/guaranteed-safe-ai-systems-solution-future-ai-safety