AI底层技术的这几年

开始于卷积神经网络

1. 依稀记得AI框架的鼻祖是caffe

2. 后面的pytorch和tensorflow的出现逐渐把深度神经网络的引用慢慢推向成熟

3. 后面就开始进入到了框架的竞争和底层图编译框架的竞争

   1. tensorflow vs pytorch
   2. mlir vs tvm

4. 我们都知道胜者是mlir+pytorch

   1. 因为这两个分别代表了两个需求的极致
   2. mlir的在图编译以及不同硬件体系对接上的优势
   3. pytorch在上层易用性上的优势

总结

1. 其实不仅仅是框架的技术路线的竞争，也深深影响了国内AI加速芯片的技术目标
   1. 尝试通过静态优化提高PPA的方向，被证明不能很好适应大部分的灵活的需求
2. 当时的问题，可能不是硬件难以设计和制造，根本问题还是怎么顺利加速实际的应用
3. 最终沉淀下来的技术成果也算是给未来的AI发展奠定了底座能力

gpgpu/simt vs dsa

1. 有一段时间，大家都在说自己是GPGPU架构，虽然可能只是类SIMT的编程方式，但是显然资本认为这才是未来
2. 我的理解是，在没有LLM之前，传统的搜索推广业务是重点，典型的问题就是难以快速适配
3. SIMT的编程方式已经深入大厂的人心
4. 对于AI加速芯片行业的实际苦恼就是不确定性，你不确定芯片做出来之后要跑什么模型

AI+transformer's asic

1. 幸亏，随着ChatGPT+H100得出现，大家的技术方向逐渐清晰，transformer base的加速芯片
2. 大模型同时带来的互联，互联相关的技术开发也得到了重视
3. 推理，逐渐被认为是值得独立做一款芯片
4. 大家逐渐不再讨论GPGPU

下一步

1. AI对AI技术栈得渗透会越来越明显，做AI的人最先解决AI问题
2. 在transformer被证明不能满足需求之前，大家都会把LLM当作一层最合理的抽象，并在这个上面做开发