• 20年前のXbox 360コンソールでAIモデルを実行
  • AI LLMはEXO LabのWindows 98 PCと同じものを使用
  • Xbox 360のPowerPCアーキテクチャとメモリ管理機能に最適化
  • PowerPCはビッグエンディアン、Intel Pentium IIはリトルエンディアン
  • バイトスワップシステムの実装と128バイトメモリアラインメントの確保が必要
  • 統合メモリの課題に対処
  • 512MBのRAMを適切に管理し、LLMを実行
  • EXO Labの目標は一般の人々にAIへのアクセスを提供すること
  • 将来的にもっと強力なAIモデルをXbox 360で実行する可能性

古いXbox 360コンソールでLLMを実行することは素晴らしい偉業です。定期的に更新される現代のデバイスでさえ、このような挑戦は興味深いものです。Andrei David氏がさらなる強力なAIモデルをXbox 360で実行することに挑戦していることに期待が高まります。

元記事: https://www.tomshardware.com/tech-industry/artificial-intelligence/user-runs-an-ai-model-on-an-xbox-360-3-core-powerpc-with-512-mb-memory-handles-an-ai-model-based-on-llama2-c