GPU 与硬件

消费级 GPU 跑大模型：RTX 4090 本地部署实战

/

一张 RTX 4090 能跑多大的模型？从显存账本到软件栈选择，再到实测的 tokens/s 数据，一篇讲清本地部署的可行性。