中信建投：零一万物发布Yi-Lightning，国产大模型迭代加速

每经AI快讯，中信建投研报表示，零一万物正式对外发布新旗舰模型——Yi-Lightning（闪电）。Yi-Lightning 的训练过程中，采用MoE混合专家模型架构，同时改进了单阶段训练，使用了多阶段的训练模式，并且采用了混合注意力机制。在保持模型性能接近最优的同时，尽可能减少激活参数的数量以降低训推成本，提高推理速度。在大模型竞技场（Chatbot Arena）上，Yi-Lightning性能直冲总榜单并列第6，数学分榜并列第3，代码等其它分榜也名列前茅。总成绩几乎与马斯克最新xAI大模型Grok-2-08-13持平，超越GPT-4o-2024-05-13、GPT-4o-mini-2024-07-18、Claude 3.5 Sonnet等顶流。