推理引擎WASTE开源：把KimiK3完整跑进64GBMacBook

币界网报道：币界网消息，推理引擎WASTE开源，能够在一台64GB的MacBook Pro上完整运行Kimi K3。转换后的模型约占1TB，速度为每秒0.49至0.54个token。WASTE将约27GB的模型主干保留在内存中，8万多个专家存放在内置SSD中，每生成一个token时仅从硬盘读取当前调用的专家。该版本没有蒸馏、裁剪或删除专家，但专家权重被重新量化到3-bit，模型主干采用4-bit和8-bit。