4070tis加4060ti16G使用qwq32B量化能行

每秒二十几个tokens，如果14B量化，单卡能装上，则只用单卡每秒近50，双卡反而会各分一部分后速度慢些，那种情况下70tis空闲浪费算力。只有70tis满负荷下用上60ti才不算浪费。32B原来光用60ti时，0.4toks/s不到。