自洽后就有意识了吗?
- 自洽能力对于人工智能的重要性
- 当前AI还不能轻易的实现自洽能力,甚至在在KV cache内的自洽性还存在挑战,权重范围内只能根据概率来输出
- 意识会去维护一个最本质的目的,不断检验当前的成果,提供未来行动的建议
- 自洽训练方法
- 随机生成无数的样本,一旦触及需要修正的问题,则作为监督样本进行微调。确保一个新的观点对所有权重没有矛盾
- GPT4.0开始,非常喜欢用破折号,应该和20世纪初的文本作为训练材料有关
- 随机生成无数的样本,一旦触及需要修正的问题,则作为监督样本进行微调。确保一个新的观点对所有权重没有矛盾
- 没有反思能力
- 一个任务,不能越做越顺利,不断根据结果进行对流程的改进
- 缺乏维护自洽的意识,不能对训练数据进行判断、识别,而是无差别得接受
- 当前的Agent还是需要人类不断的改进方法,需要人类提供“算法”->“做法” 机器不能有自洽的意识不断得接近目标
- 意识和大语言模型之间缺乏一个标准的可操作接口,大语言模型是一个语言计算器,意识相当于上下文,记忆是不可或缺的一部分
- 一个任务,不能越做越顺利,不断根据结果进行对流程的改进
No comments to display
No comments to display