Pokee发布1000万Token模型,上下文接近主流模型10倍

2小时前

币界网报道:币界网消息,Pokee AI发布了其新模型pokee-isaac 28b,该模型的参数总量为280亿,支持的上下文窗口达到1000万token,接近主流模型的10倍。目前主流模型的上限约为100万token。Pokee自测中,isaac在ruler长文本测试里,从25.6万到400万token一直保持在95分上下,拉满1000万token后得分仍有93.3。其余五款对照模型从200万token起都没有返回可用结果。Pokee将超长上下文归因于自研的「非纯decoder-only架构」,但技术报告未公开具体架构和注意力机制。Pokee AI成立于2024年,由前Meta应用强化学习负责人朱哲清创办,曾获得Point72 Ventures领投的1200万美元种子轮融资。