专家发现修复幻觉会摧毁 ChatGPT

排行榜 2025年09月16日 21:53 1 admin

信息来源：https://futurism.com/fixing-hallucinations-destroy-chatgpt

在如今迅速发展的人工智能（AI）领域，“幻觉”现象逐渐引发了科学界的广泛关注。这一现象指的是AI系统在自信的前提下提供错误的信息，尤其是在像ChatGPT这样的语言模型中尤为常见。最近，OpenAI的研究揭示了这一问题的根源，并提出了可能的解决方案，但该提案却可能带来意想不到的商业后果。

幻觉现象的起源

本月早些时候，OpenAI发布了一篇研究论文，详细探讨了大型语言模型为何会出现幻觉现象。研究指出，这类模型在优化时过度重视答题的“表现”，即使在面对不确定的情况时，依然鼓励猜测。这种策略在课堂上或许行之有效，但在处理医疗或法律等高风险领域时，则可能导致严重后果。

OpenAI在随附的博客文章中宣称有“简单的解决方案”，即通过调整评估方式来“惩罚自信的错误，而不是惩罚不确定性”。不过，这一方法在实际应用中引发了不小的争议。

商业压力与解决方案的矛盾

图片由 Getty / Futurism 提供

谢菲尔德大学的人工智能专家魏兴指出，人工智能行业并没有经济动因去实施如此变革。虽然减少幻觉现象可以提升AI的可靠性，但这一转变可能会显著提高运营成本。一旦AI系统频繁承认它的不确定性和局限性，用户可能会因此失去耐心，因为习惯于获取自信答案的用户不愿接受模糊或犹豫的回复。

魏兴强调，用户对AI的信任建立在其提供的答案质量和一致性之上。如果系统经常低估自己的信心，用户很可能会感到沮丧并逐渐远离。

"习惯于对几乎任何问题获得自信答案的用户可能会迅速放弃此类系统，" 魏兴指出。他认为，尽管标准化的“不确定性量化”方法存在，但是AI模型将需要更多计算力，以同时评估多种可能的响应并估计其置信水平。这对于每天处理数百万个查询的系统来说，意味着成本将急剧增加。

风险与成本的权衡

AI企业在厚积薄发时，面临着巨大的经济压力和市场竞争。最新的研究显示，人工智能公司通常在规模和基础设施上进行大规模投资，以支持耗电量逐渐增加的模型。然而，尽管资本支出已达到数百亿美元，公司的收入却相对温和，投资者对长期回报的期望似乎难以实现。

魏兴指出，增加运维成本的同时，还要面对客户流失的风险，这无疑将加大公司在未来寻找可行商业模式的难度。换句话说，虽然减小幻觉的发生率是重要的，但维持用户的信任和满意度也同样关键。

他进一步提到，虽然在关键业务运营或经济基础设施中，减少幻觉的成本可能高于让模型自行判断是否存在不确定性，但消费者应用程序在当今人工智能开发中的主导地位使得这个问题愈发复杂。用户显然希望从AI系统中获得自信的答案，而这种期待与开发者的限制措施之间存在直接矛盾。

未来的挑战与可能的道路

展望未来，如何解决这一矛盾将是一项艰巨的任务。AI行业需要找到一种方法，以既可以减少幻觉现象，又能保持用户对系统的信任。这或许意味着企业将面临更高的研发与运营成本，但确保长期稳定的用户体验与信任关系是值得投资的。

同时，AI技术的进步或许能带来新的解决方案，以适应公司现代化运营的需求。目前，技术创新不仅将推动新型AI应用开发，还可能在解决幻觉问题上发挥关键作用。

尽管OpenAI提出的修复方案在理想情况下可行，但它是否会在现实环境中取得成功仍然是一个悬而未决的问题。市场对于配置更新和系统优化的需求使得这一过程愈加困难，企业的经济激励结构与有效解决幻觉问题之间的矛盾尚需探索合理的平衡点。

可见，在人工智能的商业化道路上，资源配置、用户期望与技术发展之间的权衡将更加复杂。未来，对于幻觉现象的控制与治理不仅关乎科学研究，更关系到AI行业的可持续发展。

必看盘点揭秘“微信小程序跑得快怎么调胜率”（助赢神器购买)

发表评论