• Google Colabを使用して、単一のGPUでLLM(大規模言語モデル)をファインチューニングする方法が以前紹介された。
  • Nvidiaハードウェアでは問題なく実行可能だが、MシリーズMacには適応しにくい。
  • MLX Pythonライブラリを使用することで、Mac上で容易にLLMをファインチューニングできる。

LLMのファインチューニングは、GPUを持つ個人でも可能になったが、MacユーザーはAppleのMシリーズチップの影響で取り残されてきた。MLX Pythonライブラリの登場により、Mac上でのLLMトレーニングが簡単になったことは画期的だ。

元記事: https://towardsdatascience.com/local-llm-fine-tuning-on-mac-m1-16gb-f59f4f598be7