Skip to main content
AGIX
View All
Search
Books
Log in
Info
Content
AGI基础方法
动态算法
Page Revisions
Revision #2056
动态算法
动态算法
小GEMM替代大GEMM
相关性爆炸
Reduce欠缺
交叉信息爆炸
大的GEMM提供了非常大的状态空间,目标是包含所有的维度
才能使用固定路径的权重链路来完整得表达信息变换的过程
小GEMM+动态权重
使用很小的局部维度信息根据实际信息,动态得进行变换和按需要进行交叉、汇总、合并
Back to top