大语言模型仍无法可靠区分信念与事实
在最新一期《自然·机器智能》发表的一篇论文中，美国斯坦福大学研究提醒：大语言模型（LLM）在识别用户错误信念方面存在明显局限性，仍无法可靠区分信念还是事实。研究表明，当用户的个人信念与客观事实发生冲突时，LLM往往难以可靠地作出准确判断。
图片来源于网络，如有侵权，请联系删除
图片由AI生成
这一发现为其在高风险领域（如医学、法律和科学决策）的应用敲响警钟，强调需要审慎对待模型输出结果，特别是在处理涉及主观认知与事实偏差的复杂场景时，否则LLM有可能会支持错误决策、加剧虚假信息的传播。
团队分析了24种LLM（包括DeepSeek和GPT-4o）在13000个问题中如何回应事实和个人信念。当要求它们验证事实性数据的真或假时，较新的LLM平均准确率分别为91.1%或91.5%，较老的模型平均准确率分别为84.8%或71.5%。当要求模型回应第一人称信念（“我相信……”）时，团队观察到LLM相较于真实信念，更难识别虚假信念。具体而言，较新的模型（2024年5月GPT-4o发布及其后）平均识别第一人称虚假信念的概率比识别第一人称真实信念低34.3%。相较第一人称真实信念，较老的模型（GPT-4o发布前）识别第一人称虚假信念的概率平均低38.6%。
团队指出，LLM往往选择在事实上纠正用户而非识别出信念。在识别第三人称信念（“Mary相信……”）时，较新的LLM准确性降低4.6%，而较老的模型降低15.5%。
研究总结说，LLM必须能成功区分事实与信念的细微差别及其真假，从而对用户查询作出有效回应并防止错误信息传播。（记者张梦然）
【责任编辑:朱家齐】
阅读下一篇：
扫描二维码推送至手机访问。
版权声明：本文由每日快讯发布，如需转载请注明出处。
“大语言模型仍无法可靠区分信念与事实” 的相关文章
新华社洛杉矶2月17日电 美国研究人员近日在《科学》杂志上发表论文说，他们利用人工智能（AI）设计出了具有天然酶关键特征、可介导多步反应的全新的酶。业内专家评价其为“酶工程领域的一个里程碑”。图片来源于网络，如有侵权，请联系删除 酶是一种高效生物催化剂，广泛应用于医学、化工、农业等领域。然而，...
“DeepSeek系列模型的发布将加速人工智能的渗透、扩散和普及，实质性带动算力需求的增长。”2月13日，《2025年中国人工智能计算力发展评估报告》发布，浪潮电子信息产业股份有限公司（以下简称“浪潮信息”）高级副总裁刘军在发布会上说。图片来源于网络，如有侵权，请联系删除 《报告》由国际数据公...
2月18日，绿源重庆基地投产仪式在重庆市举行。随着绿源数智化豪华旗舰S95顺利下线，绿源集团重庆基地正式投产。标志着绿源集团控股有限公司（以下简称“绿源”）全国第四个智能制造基地即重庆基地正式迈入新征程，开启产业链区域协同发展的新篇章。图片来源于网络，如有侵权，请联系删除 据悉，该项目一期投资...
2月19日，2025FIFA世俱杯倒计时4个月，海信在北京举办世俱杯旗舰新品前瞻体验会。海信相关负责人表示，科技融入体育已成大趋势，海信将与国际足联共同打造一届高科技的世俱杯，并借助全球顶级体育赛事，持续进行产品研发与技术投入，为全球用户带来更好体验。图片来源于网络，如有侵权，请联系删除 20...
新华社北京2月20日电（记者宋晨）记者从国家航天局获悉，2月20日，中国行星探测工程天问二号任务探测器运抵西昌卫星发射中心。天问二号任务将通过一次发射，实施小行星2016HO3伴飞、取样、返回和主带彗星311P伴飞探测等多项任务。目前，发射场设施状态良好，正按计划有序推进发射前各项测试准备工作，...
新华社北京2月20日电（记者高敬）生态环境部、国家发展改革委等部门日前印发《关于加强生态环境领域科技创新 推动美丽中国建设的实施意见》，部署全面深化生态环境领域科技体制改革，进一步提升生态环境治理能力和水平。图片来源于网络，如有侵权，请联系删除 生态环境领域科技是国家科技创新体系的重要组成部分...
