要約:
- LLMをRaspberry Piなどのコンピュータで実行可能
- Ollamaを使用してLLMを簡単にインストール
- 数種類のモデルを比較し、Phi-3が速く正確
- Gemmaは回答が得られず、Mistralは誤った情報を提供
- Qwenは多くの回答で誤りがあり、数学においても不正確
感想:
AIチャットボットをSBC上で実行することは可能だが、現時点ではまだ準備が整っていないように思われる。Phi-3が最も優れており、速く正確な回答を提供しているようだ。しかし、他のモデルには誤った情報を提供するものや回答が得られないものもある。今後の発展が期待されるが、現時点ではオンラインやPC上でAIチャットボットを利用することがより安定しているように思われる。
元記事: https://www.xda-developers.com/ollama-ai-comparison-raspberry-pi-5/