新的AI计算模型
- 计算机已经发展了很多年,很多层的划分已经非常的明确
- 高层级的计算范式随着AI的发展,特别是LLM的发展,已经越发的清晰
- 传统计算机软硬件堆栈->神经网络算子->神经网络计算图->Pytorch->分布式框架->LLM->Agent->MCP
- 由于AI发展的太快,计算机的底层基本没有变化,只是根据AI的需要进行特定的开发
- 太底层,不灵活,算子及AI编译器开发消耗大量工作
- 软硬件结合的方式还是遵循传统计算机的经验
- 主流技术(CUDA)没有摆脱冯诺伊曼的架构,甚至编程模型/内存模型都没有变化
- 需要设计一个能适应AI的计算中间层
- 位置:传统编译器+编程语言之上,神经网络层之下
- 主要抽象,数据流,数据的tensor运算等等
- 类似triton
-
生命游戏 围棋 boids