- アンドレイ・ダビッド氏は、20年前のXbox 360コンソールにAndrej Karpathyのllama2.cに基づいたAIモデルをインストールおよび実行
- EXO LabのWindows 98 PCでLlamaを実行した成功例に触発され実験を行う
- Xbox 360が使用したAI LLMは、EXO LabのWindows 98 Pentium II PCと同じものだが、PowerPCアーキテクチャおよびメモリ管理機能に最適化が必要
- PowerPCはビッグエンディアンであり、最も重要な値を最初に格納するため、バイトスワップシステムを実装
- Xbox 360の統合メモリの課題に直面、60MBのモデルがCPUまたはGPUに割り当てられるスペースに収まるよう確認
- メモリ管理とPowerPCの仕組みの調整により、古いXbox 360コンソールでLLMを実行
- 512MBの統合RAMでHugging FaceのSmolLMや0.5B Qwen2.5モデルを実行することも可能
- アンドレイ・ダビッド氏は新たな挑戦を受け入れる姿勢を示し、今後のXbox 360での強力なAIモデル実行に期待
私の考え: 古いXbox 360コンソールで最新のAIモデルを実行する試みは革新的であり、PowerPCの仕組みやメモリ管理に適応する工夫が必要だった。このような取り組みは、一般の人々が高価な機器や膨大な電力を消費するメガ企業に限定されることなく、AIにアクセスできる方向に進んでいることを示している。
元記事: https://www.yahoo.com/tech/user-runs-ai-model-xbox-175240616.html