$ grep -r "vllm" posts/

四張 3090 塞一顆 180B：家庭伺服器的 MoE 塞入記

180B 參數、96GB 顯存、47.7GB 放不進 VRAM 的查表——consumer 3090 怎麼跑 256K context 的 MoE，計算與陷阱全公開。