交易中的AI幻觉：护栏胜过盲目信任

让一个语言模型说出NVIDIA周二的收盘价，它会流畅地、即刻地回答，有时是错的，而两种情况之间语气毫无变化。那就是交易中AI幻觉的全部问题，压缩成一句话。当输出是一篇文章时，一个编造的细节让你付出一次修改。当输出喂给一个仓位时，它让你付出金钱。本文解释幻觉到底是什么、为什么金融问题比多数领域更容易激发它、被测出的比率是什么样，以及那套架构，外加一份买家核对清单，如何把编造挡在你的订单之外。

幻觉到底是什么

这个词暗示一次故障，一个会在下一版里被修掉的小毛病。那种框定误导你去等那个修好的版本。幻觉更该被理解为模型恰恰在做它被造出来要做的事，只是所处的情形不是你需要的。

一个语言模型生成迄今为止文本的最合理续写。合理性是唯一的通货。没有一本内部账簿，一边是事实、另一边是编造，也没有一面旗子会在模型从回忆越过到创作时翻转。"苹果报告营收为"会被一个形状恰好像苹果营收数字的数字补全，因为数以百万计的类似句子教会了模型这类数字长什么样。那些具体的数位是不是真的，是世界的一个属性，而模型并没有在咨询世界。它在咨询关于世界的语言的形状。

这正是为什么幻觉输出如此难以肉眼捕捉。它不是乱码，也不是含糊其辞。它以与正确输出相同的自信语气到来，格式相同，往往被一堆准确的细节所包围。规模和微调降低频率；关于这个机制的任何东西都无法移除它。一个假设偶有自信编造的系统设计，是在实事求是，而非偏执。

为什么交易中的AI幻觉咬得比别处更狠

金融把每一个引发编造的触发因素都集中到一个领域里。

数字占主导，而语言统计无法核实算术。 价格、百分比、比率、日期：一个模型能像产出32.4一样流畅地产出一个23.4的市盈率，两者在纸面上看起来同样正确。下一词预测里没有任何东西去检查那道减法。

实体会撞车。 数以千计的代码，许多几近相同，再加上加密圈用著名资产给梗币命名的习惯。一个被问及"SPX"的模型，可能把标普500指数和一个同名代码的无关代币混在一起，并把这个混合物顺滑地端出来。

新鲜度是结构性的，而非偶然的。 市场每秒都在动；训练数据在某处终止。被问及截止日之后的任何事，模型只有一个诚实的答案，却有一股强烈的文体拉力把它拉离给出那个答案。听着合理的过时价格才是默认的失效，而非罕见的那种。

成本是不对称的。 一部电影简介里一个编造的事实浪费片刻。一个编造的支撑位却给一个真实的仓位定了规模。

被测出的比率印证了这份担忧。诸如FailSafeQA这样的金融LLM基准，已记录到在相当一部分金融问题上出现幻觉，其中一项2024年的研究发现在没有防护时比率高达约41%（FailSafeQA及相关基准，2024—2025）。同一批文献同样清楚地指出什么管用：把答案锚定在检索到的数据上、把模型约束到结构化的工具调用上，并把人工审批关卡保留在回路里。换句话说，修法是已知的，而且是架构性的。

架构上的答案：四面承重墙

你无法让一个模型停止编造。你搭建一个系统，让编造无处可去。四条原则承载重量。

1. LLM永远不是数字的来源。 每一个价格、指标值、余额和成交量数字，都来自一个行情数据源或一个交易所API，在使用的那一刻被取回。模型可以谈论递给它的数字；它绝不能凭记忆供给它们。单单这一条规则，就消除了最大一类损害。

2. 行动经由带类型的工具调用。 模型不发出自由文本、再让下游某个东西把它解读为一张订单。它填入一个定义好的模式里定义好的槽位：资产来自一份经过验证的清单、数量是一个有界的数字、订单类型来自一个枚举。一个编造的代码在验证时失败，而非抵达一个交易场所。想想那格镂空模板，而不是那支笔：无论模型写什么，只有刚硬的形状能穿过。

3. 被解析的意图被向人重新核实。 在你的句子和任何运行中的自动化之间，坐着一个重述步骤：这是我理解到的确切条件、规模和限额；请确认。误读和编造在最便宜的可能时刻变得可见，在任何东西上线之前。

4. 一切都被记录。 每一次解读、数据取回和订单尝试都留下一条记录。当某个东西让你意外时，日志用证据、而非凭感觉来回答"它当时以为自己在做什么"。

这就是Obside所运行的那种分割。副驾的LLM做语言活：它解读"如果我的仓位从这里跌8%就卖掉一半"并起草那个自动化。但那个"这里"由定价引擎从实时数据解析出来，那个8%被确定性地计算，订单是一条带类型的指令、在执行时刻施加风险检查后被路由，而重述出的条件在智能体存在之前等待你的确认。一个幻觉能误起草一份你会读到并拒绝的提议；它没有路径去下一笔交易，因为那些碰到钱的组件不即兴发挥。语言模型与确定性引擎之间更宽的分工，在LLM在交易中能做和不能做什么中作了梳理。

"这会伤到我吗"核对清单

对任何AI交易产品用这八个问题，包括你已经连接的那些。每一个都附带一个应当终止评估的危险信号答案。

#	该问的问题	危险信号答案
1	价格和指标值从哪里来？	"AI懂市场"或没有清楚的答案。数字必须来自具名的数据源，而非模型。
2	模型能自由输入一张订单，还是它填入一个经过验证的模式？	模型与执行之间任何地方出现自由文本。
3	系统在运行之前会重述它所理解的内容吗？	你的句子径直变成一个上线的自动化。
4	当数据缺失或过时时会发生什么？	它照样作答。安全的行为是拒绝或标出，绝不即兴。
5	有没有一个使用与实盘相同管道的纸面模式？	模拟是一条独立、更好看的代码路径，或干脆没有。
6	风险限额是否在模型之外被强制执行？	限额是提示词的一部分。提示词是建议；执行时刻的检查是法律。
7	你事后能审计每一个决策吗？	没有关于被解读、被取回和被发送内容的日志。
8	营销是否宣称AI"预测"价格？	是。预测的主张加上一个语言模型，等于一份带订阅费的自信虚构。

其中两个值得强调。问题4是那个安静的杀手：一个无法说出"我不知道"的系统，会恰恰在条件最反常时用合理性来替代，而那恰恰是你在倚赖它的时候。而问题6把表演和工程分开。一条写进提示词的风险规则，能被那个无视事实的同一个机制无视；一条在执行路径里的风险检查则不能。如果一个供应商说不清他们有的是哪一种，就假定是提示词那种。

在这些问题里不及格三个或更多的产品，不是"早期"。它们被接线成让编造能抵达你的钱。幻觉之外其余的风险清单，从过拟合的回测到密钥安全，在AI交易智能体的真实风险中被排了序。

幻觉不意味着什么

因此就彻底发誓不在交易中用语言模型，会是一个错误的结论，因为这个失效是具体的，而非普遍的。

LLM在语言层真的很强：把一段意图变成候选规则、把一份40页的披露文件总结成触及你持仓的三个条目、解释为什么一个回测的回撤集中在某个周期、批评一个你写的策略的逻辑。在这些用途里，编造要么不存在（源文本已被提供），要么容易捕捉（你在任何事发生之前审阅输出）。只有当模型输出朝执行流动、却没有一个确定性检查点或一个人的检查点时，幻觉才变得危险。

所以成熟的立场既非信任、也非戒绝。它是放置：语言模型管语言，引擎管数字，关卡管行动。那些关卡该归于何处、以及哪些决策应当永远等一个人，是人在回路的交易的主题。而如果你当前的工作流是把一个聊天机器人的建议手动粘进一个券商，那种配置特有的失效模式在用ChatGPT交易中有所涵盖。

接下来去哪里

幻觉不是一桩关于AI的丑闻；它是这件工具的一个属性，就像步枪的后坐力。你不修后坐力，你围绕它搭建一个枪托和一个姿势。对任何想要接触你账户的东西问那八个问题，拒绝那些模型直接碰数字或订单的产品，并每一次都坚持那个重述步骤。

如果你想在实践中看到那个被封住的版本，Obside只让LLM担当解读职责、从实时行情数据喂入每一个数字，并把每一个自动化都扣在你明确的确认之后，所以一个幻觉最坏能做的，就是提议某个你读了会婉拒的东西。

仅供教育参考，不构成投资建议。交易存在风险，可能导致本金损失。