- Windows 98上で稼働するLlama 2の変更版を使って実演
- Windows 98でLLMを実行する体験は、予想以上に良い結果
- Windows 98マシンで39.31トークン/秒、15Mモデルで1.03トークン/秒生成
- モデルは小さくても有用であり、GitHubにはそのためのツールがある
- EXO LabsのプロジェクトはAIモデルがどこでも誰でも実行できるようにするため
- Windows 98SEはまだ小さなコミュニティを持っている
- Windows 98はUSB周辺機器をサポート、ドライバーインストール後に正常に動作
自分の考え: Windows 98が古いハードウェアやオペレーティングシステム上でLLMを実行することは面白い試みであり、小さなモデルでも有用性を示唆しています。EXO Labsの取り組みは、テックジャイアントに依存せずに誰もがAIモデルを実行できる環境を作ることに焦点を当てており、古いOSでも新しい技術を活用する可能性を示しています。
元記事: https://hackaday.com/2025/01/13/modern-ai-on-vintage-hardware-llama-2-runs-on-windows-98/