LLM心理行为学
随着LLM的爆火,很多科研人员投入研究LLM表现出来的行为
特别是一些心理学方面的表现,比如:
- 谄媚
- 自信/不自信
- 固执己见/被质疑就动摇
等等
从原来上说,本质上都是数学的统计概率,具体的输出和训练的样本有直接的关系
本质上,这些研究是在寻找事物的规律,
本来LLM是人类在严谨的科学的基础上构建的,但是由于太过复杂,人类自己也不能搞清楚内部的思维细节
那么重点来了
这类研究是毫无意义的,研究一个毫无规律的现象的规律是愚蠢的
LLM的行为随时都可能发生变化
这种行为就像,非要试图找到质数小数位的规律
No comments to display
No comments to display