边缘推理芯片

主流的产品
高通® QCS6490
 
 https://docs.radxa.com/dragon/q6a 
 
 
 全志 A733 SoC
 
 https://docs.radxa.com/cubie/a7a 
 
 
 爱芯元智公司 AX8850 SoC
 
 https://docs.radxa.com/aicore/ax-m1 
 
 
 DEEPX 公司 DX‑M1
 
 https://docs.radxa.com/aicore/dx-m1 
 
 
 SOPHON AI 处理器 SG2300X
 
 https://docs.radxa.com/aicore/sg2300x

LLM跑在边缘芯片上
模型工具，转换，加载等等
 
 Distributed Llama https://github.com/b4rtaz/distributed-llama?tab=readme-ov-file 
 
 
 语音模型
 
 https://github.com/k2-fsa/sherpa-onnx 
 小智生态 https://github.com/xinnan-tech/xiaozhi-esp32-server