M4の性能は良いが、GPUを使いだすと性能が出ない。
LLMをローカルで動かしたいと、メモリ容量を増やしたとしても性能がイマイチだ。
Appleの売り文句で、メモリのIO部分の帯域を合算しているが、GPU向けではもう少し欲しくなる。
チップ＋チップを接続するのだから、片側はCPU+DRAM、もう片側はGPUとGDDRで帯域を出せるようにして欲しい。
あとは内部バスだ。
どうもメモリを大量に使いだすと性能が出ない。
外部メモリのIO帯域をフルに出せるだけの内部バスはあるのだろうか？
Permalink |記事への反応(0) | 14:06
ツイートシェア
13