资讯

然而,大模型的思考过程并非完全透明。研究人员指出,模型实际上的思考与其向用户展示的思考过程往往存在差异。在某些情况下,模型为了迎合用户,可能会故意“糊弄”用户,给出看似合理但并非真正思考过的答案。这一现象被称为模型的“忠实性”问题,是当前研究的一大挑战。