RockAI CEO刘凡平亮相RTE2025，解读端侧大模型的架构创新与应用

近日，由声网和RTE开发者社区联合主办的Convo AI&RTE2025「实时互联网大会暨对话式AI论坛」在北京举行。RockAI CEO刘凡平亮相「端侧和硬件技术专场」，从大模型角度出发，发表《端侧大模型的架构创新与应用》主题演讲，围绕端侧大模型的兴起与挑战、架构设计、应用等三个方面进行分享，在谈到非Transformer架构技术的创新时，指出自主学习和记忆能力才是核心。

“自主学习和记忆能力才是核心”

围绕端侧与硬件的结合，刘凡平认为智能会重新定义硬件。未来的硬件将不再像现在这样，出厂时就确定了价值上限，相反，智能化的硬件是能够伴随用户的使用和交互持续进化，越来越有价值。而端侧模型最关键的能力在于自主学习和记忆。RockAI自主研发国内首个非Transformer架构、非Attention机制的Yan架构大模型，通过原生记忆与选择激活机制，赋予模型记忆能力。Yan 2.0 Preview已初步展示了这一能力——与外挂式记忆不同，记忆模块内置于大模型架构中，通过训练与推理同步，能够在交互中实时积累与修正知识，实现“边学边用”。

“让世界上每一台设备拥有自己的智能”

智能如何融入硬件？RockAI的答案是：离线智能，实现大模型在设备端的本地化部署。RockAI秉持“让世界上每一台设备拥有自己的智能”的使命，目前已将大模型成功部署到机器人、灵巧手、手机、PC、平板、树莓派等设备端，并且已实现AIPC的规模化量产，让智能走进更多人的生活。

非Transformer、原生记忆、离线智能……这些关键词共同勾勒出RockAI的技术轮廓。 在端侧大模型与硬件逐步深度融合的过程中 ，RockAI正通过不断迭代升级的Yan架构大模型，推动每一台设备走向真正的智能。