RWKV首届全球开发者大会定档2月21日新一代大模型架构 RWKV 将于 2025 年 2 月 22 日在上海举办首届主题为 《RWKV-7 架构与未来趋势》 的开发者大会,大会将深入探讨 RWKV-7 的独家技术亮点、应用场景以及未来趋势,展示 RWKV 在推动全球 AI 发展中的前瞻性与领导力。RWKV-7 架构采用动态状态演化(dynamic state evolution)机制,超越了传统的 attention/linear attention 范式,拥有强大的上下文学习(in-context learning)能力和持续学习能力。RWKV-7 模型在推理过程中就能不断自动根据新的数据进行自我优化和改进(test-time training),从而显著提升了模型的理解力和处理能力。例如 RWKV-7 2.9B 模型的英文和多语言能力(英文评测71.1%,多语言评测62.3%),均显著超越所有同尺寸模型,包括 Llama 3.2 3B(英文评测68.7%,多语言评测57.3%)、Qwen2.5 3B(英文评测68.6%,多语言评测57.0%)等知名优秀开源模型。且 RWKV-7 2.9B 只训练了 3T tokens,另两者训练了接近 20T tokens。更大规模的 RWKV-7 也在训练中。