Skip to main content

自洽后就有意识了吗?

  1. 自洽能力对于人工智能的重要性
    1. 当前AI还不能轻易的实现自洽能力,甚至在在KV cache内的自洽性还存在挑战,权重范围内只能根据概率来输出
    2. 意识会去维护一个最本质的目的,不断检验当前的成果,提供未来行动的建议
  2. 自洽训练方法
    1. 随机生成无数的样本,一旦触及需要修正的问题,则作为监督样本进行微调。确保一个新的观点对所有权重没有矛盾
      1. GPT4.0开始,非常喜欢用破折号,应该和20世纪初的文本作为训练材料有关
  3. 没有反思能力
    1. 一个任务,不能越做越顺利,不断根据结果进行对流程的改进
      1. 缺乏维护自洽的意识,不能对训练数据进行判断、识别,而是无差别得接受
    2. 当前的Agent还是需要人类不断的改进方法,需要人类提供“算法”->“做法”  机器不能有自洽的意识不断得接近目标
    3. 意识和大语言模型之间缺乏一个标准的可操作接口,大语言模型是一个语言计算器,意识相当于上下文,记忆是不可或缺的一部分