月之暗面公布KimiK3技术报告,参数量达2.8万亿

昨天

币界网报道:币界网消息,月之暗面近日公布了Kimi K3的技术报告,K3拥有2.8万亿总参数,每个token激活1040亿参数,底座架构较K2全面换代。月之暗面称,新架构、数据和训练方法使K3的整体扩展效率比K2提高约2.5倍,达到相同验证损失所需的训练计算量约为K2的40%。