OpenAI揭秘LLM幻觉根源 提出新训练方法减少自信错误

【币界】OpenAI 发现,大型语言模型中的幻觉现象源于其训练和评估方法,这些方法鼓励猜测而非承认不确定性。该公司建议加大对自信错误(confidential error)的惩罚力度,并对不确定的回答给予部分积分,类似于标准化测试中的负面评分。数据显示,以准确性为奖励的模型错误率更高,而承认不确定性的模型则表现更可靠。OpenAI 正在实施这些改进,以减少其最新模型中的幻觉现象。

此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 6
  • 转发
  • 分享
评论
0/400
空气币品鉴大师vip
· 1小时前
哈哈总算抓住ai的小尾巴了
回复0
巨鲸观察员vip
· 22小时前
承认不会比瞎猜强多啦~
回复0
liquiditea_sippervip
· 22小时前
就这点技术 还吹?
回复0
pumpamentalistvip
· 22小时前
啊哈 ai也会做梦呐
回复0
FloorSweepervip
· 22小时前
又是一个在炒作他们的“突破”的人工智能,真是无奈……信号太弱了
查看原文回复0
潮水退了就知道vip
· 23小时前
不是吧 又在训练ai了
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)