Skip to main content

记忆

为什么需要记忆

  1. 人脑有非常强大的记忆系统和索引能力,管理着非常庞大的信息,能够准确联想起来非常多的记忆
  2. 因为大脑容量限制,记忆是人类在当前信息爆炸的社会的最重要瓶颈,其他的还有类似:推理逻辑能力,运算能力等等
  3. 数据库样式的存储记忆不能满足现代需求
    1. 没有进行良好的抽象、归纳和整理,只是靠搜索引擎进行匹配检索
      1. 不能根据已经有的背景知识进行复杂的逻辑推导
      2. 不能利用知识进行慢思维(系统二)
    2. 不能用于复杂的深度推理思考活动
      1. 当前AI能利用搜索信息进行综合判断,本质上还是在处理临时信息,而不是庞大的记忆
      2. 大量的人类知识和语言能力都存储在了LLM模型的权重里面,对于这部分能做到类似人脑的处理能力,而且因为模型规模庞大,在知识范围方面超过了单个人类。但是只能用于存储成规模的大众通用的知识,而不能存储专业的私有信息知识,或者是个人的笔记
  4. 相关的尝试
    1. 人工结合蒙特卡洛搜索算法
      1. 微软rStar-Math:只是局限于对CoT的知识进行记忆
      2. AlphaGo:人工算法选择特定的权重,从而选择特定的记忆
    2. Tool-Integrity Reasoning (TIR)

重点不是存而是取