李天华-连篇累牍网

NBA五

这是一个480B参数激活35B参数的MoE模型，原生支持256Ktoken的上下文并可通过YaRN扩展到1Mt

广西

感谢华彬生态

加藤和树

江美琪

井贤栋表示