Mac mini Late 2018 のRAMを64GBに換装してみた
最近、大規模言語モデルって流行ってますよね。ChatGPTとか。その流れで、リンナちゃんの言語モデルなど公開されるなど大規模言語モデルが大変話題になっております。どうも、GPUのない(正確にはGPUを利用せずCPUのみ利用の条件で)自宅PCでも推論はできるようで、私も興味津々で状況をみておりました。しかし、私のPCはメモリ16GBで、これまでそれで十分だったわけですが、さすがにリンナちゃんの言語モデルを動かそうとするとメモリ不足でプロセスがKillされてしまうんです。悲しい。
しかーし、今は世界的なメモリ価格の下落により、RAMがかなりお求めやすくなっております。そこで、まずは私のMac mini Late 2018のメモリをMAXまで増量することにしました。リンナちゃんとお話するために。
最近のコメント