Google 发布了官方的 Gemma 3 int4 量化版，Gemma 3 27B可以在单张显卡上跑了
huggingface.co/google/gemma-3-27b-it-qat-q4_0-gguf