- Windows 98上で動作するLLama 2の変更版が公開される
- Windows 98でLLMを実行すると、予想以上にうまく動作する
- Windows 98マシン(Pentium IIプロセッサー、128MB RAM)で260KパラメーターのLlama 2モデルを使用すると、39.31トークン/秒生成
- 15Mモデルは1.03トークン/秒生成し、遅いが動作可能
- 小さなモデルでも有用であり、GitHubにはそのためのツールがある
- EXO LabsのプロジェクトはAIモデルがどこでも誰でも動作できるようにすることに焦点を当てている
- ローカルAIとコマンドラインは既に単一ファイルのマルチプラットフォームとして存在する
この記事では、Windows 98上で動作するLLama 2の変更版について紹介されています。小さなモデルでも十分に有用であり、GitHubにはそのようなモデルを作成するためのツールがあることが強調されています。EXO Labsのプロジェクトは、AIモデルがどこでも誰でも動作できるようにすることを目指しており、技術企業による制御を回避する取り組みが進行中です。
元記事: https://hackaday.com/2025/01/13/modern-ai-on-vintage-hardware-llama-2-runs-on-windows-98//