虎嗅F&M创新节 | RockAI CEO刘凡平：放弃Transformer，以“架构创新”驱动“硬件革命”

11月22日上午，在虎嗅F&M创新节上，RockAI CEO刘凡平指出，Transformer存在很多局限性，而现在一个非常错误的事情是，用算力和数据去弥补架构的问题。

其实真正的问题不在于“模型不够大”，而在于“思考”的方式错了——

无状态的静态函数，难以成为未来智能；更多参数 ≠ 更强智能，只是在扩大“查找表空间”；长上下文 ≠ 记忆，本质上只是大号缓冲区。

刘凡平还表示，大模型的关键是“原生记忆与自主学习”，而非外挂方式。

当硬件拥有记忆和自主学习时，才能真正产生智能，智能相互之间的协作、学习，实现群体智能。这种智能不仅包括知识传播，还有知识产生，类似于人类社会受教育的过程。因此，RockAI坚信群体智能是智能涌现的真正过程，也是通向通用人工智能的关键。