- 大手AI開発者は、自宅のスマートフォンやタブレット、コンピュータを使用して自分専用のAIクラスタを実行できる新しいソフトウェアが開発された。
- このソフトウェアは、複数のデバイスを連携させ、1つの強力なGPUのように見せることが可能。
- ソフトウェアは、デバイスの平等性を提供し、デバイス間でピア・ツー・ピア接続を使用。
- デバイス上で実行されるLlama-3-70Bは、各デバイスのメモリ量に基づいてワークロードを割り当てるリングメモリ重み付けスキームをデフォルトとして採用。
- 現在の状態では、既に実験する価値のあるプロジェクトとして見える。
この新しいソフトウェアは、自宅のデバイスを組み合わせて1つの強力なGPUのように機能させることができるという革新的なアプローチです。デバイス間での協力により、個々の性能を最大限に活用し、より高度なAIプロジェクトを実現できる可能性があります。