交易中的 AI 幻覺：護欄勝過盲目信任

問一個語言模型 NVIDIA 星期二的收盤價，它會答得流暢、即時，有時卻是錯的，而兩種情況之間語氣毫無變化。這就是交易中 AI 幻覺的整個問題，濃縮成一句話。當輸出是一篇文章時，一個捏造的細節讓你付出一次修改。當輸出餵向一個部位時，它讓你付出金錢。本文會解釋幻覺實際上是什麼、為什麼財務問題比多數問題更會誘發它、量測到的比率長什麼樣子，以及那套讓捏造遠離你委託單的架構，外加一份買家的檢查清單。

幻覺實際上是什麼

這個詞暗示一種故障、一個會在下一版被修掉的小毛病。那種框架會誤導你去等那個修好的版本。幻覺更該被理解成：模型恰恰在做它被打造來做的事，只是在一個那並非你所需的情境裡。

一個語言模型產生的，是到目前為止這段文字最合理的續寫。合理性是唯一的貨幣。它內部沒有一本一邊是事實、另一邊是虛構的帳簿，也沒有一個會在模型從回想跨到編造時翻轉的旗標。「蘋果回報的營收為」會被補上一個形狀恰恰像蘋果營收數字的數字，因為數百萬個類似句子教會了模型這種數字長什麼樣。那些特定的位數是不是真的，是這個世界的一個屬性，而模型並不在諮詢這個世界。它在諮詢的，是關於這個世界的語言的形狀。

這正是為什麼幻覺輸出如此難以用肉眼抓到。它不亂碼、也不含糊其辭。它以與正確輸出相同的信心語氣、相同的格式到來，往往被準確的細節環繞。規模與微調會降低它的頻率；這套機制本身沒有任何東西能移除它。一套假設偶爾會出現有信心捏造的系統設計，是實事求是，不是疑神疑鬼。

為什麼交易中的 AI 幻覺咬得比別處更狠

金融把每一個誘發捏造的觸發因子，都集中到同一個領域裡。

數字當道，而語言統計無法驗證算術。 價格、百分比、比率、日期：一個模型產出 23.4 的本益比，跟產出 32.4 一樣流暢，而兩者在紙面上看起來一樣正確。下一個詞的預測裡，沒有任何東西在核對那道減法。

實體會撞在一起。 成千上萬個代號，許多幾乎一模一樣，再加上加密貨幣愛用知名資產的名字來替迷因幣命名的習慣。一個被問到「SPX」的模型，可能把 S&P 500 指數與一個同代號、卻毫不相干的代幣混在一起，並把這個混合物順順地端出來。

新鮮度是結構性的，不是偶發的。 市場每一秒都在動；訓練資料在某處結束。被問到任何在它截止點之後的事，模型只有一個誠實的答案，卻有一股強烈的文體拉力把它拉離那個答案。那個聽起來合理的過時價格，是預設的失效，不是罕見的那個。

成本是不對稱的。 一部電影摘要裡的一個幻覺事實，浪費的是一瞬間。一個幻覺的支撐位，卻決定了一個真實部位的大小。

量測到的比率支撐了這份憂慮。像 FailSafeQA 這樣的金融 LLM 基準，已記錄到在相當大一部分財務問題上出現幻覺，其中一份 2024 年的研究發現，在沒有防護措施的情況下比率高達約 41%（FailSafeQA 及相關基準，2024–2025）。同一批文獻對什麼有效也一樣清楚：把答案錨定在檢索到的資料上、把模型約束到結構化的工具呼叫，以及在迴圈中保留人工核准關卡。換句話說，解法已知，而且是架構性的。

架構的答案：四道承重牆

你不會讓一個模型停止捏造。你會打造一個讓捏造無處可去的系統。有四項原則承擔重量。

1. LLM 永遠不是數字的來源。 每一個價格、指標數值、餘額與成交量數字，都來自一個市場資料饋送或一個交易所 API，在使用的當下被檢索。模型可以談論別人遞給它的數字；它絕不可從記憶裡供應它們。單單這一條規則，就消除了最大一類的傷害。

2. 行動透過有型別的工具呼叫進行。 模型不會發出一段自由文字、再讓下游某個東西把它詮釋成一筆委託。它填的是一個定義好綱要裡的定義好欄位：資產來自一份經驗證的清單、數量是一個有界的數字、委託單類型來自一個列舉。一個捏造的代號會通不過驗證，而不是抵達一個交易場所。想像模板，而非筆：無論模型寫了什麼，只有僵硬的形狀能穿過去。

3. 被解析的意圖會回頭向人驗證。 在你的句子與任何運行中的自動化之間，坐著一個重述步驟：這是我所理解的確切條件、大小與限制；請確認它。誤讀與捏造會在最便宜的可能時刻現形，在任何東西上線之前。

4. 一切都被記錄。 每一次詮釋、資料抓取與委託嘗試，都留下一筆紀錄。當某件事讓你意外時，日誌會用證據、而非感覺，回答「它以為它在做什麼」。

這就是 Obside 運行所依循的那道劃分。copilot 的 LLM 做的是語言工作：它詮釋「如果它從這裡下跌 8% 就賣掉我一半的部位」並草擬那個自動化。但「這裡」由定價引擎從即時資料解析出來、那 8% 被確定性地計算、委託是一則有型別的指令、在執行當下套用風險檢查後路由出去，而重述後的條件會等你核准，智能體才存在。一個幻覺能把一份你會讀、然後拒絕的提案草擬錯；它卻沒有路徑去下一筆交易，因為那些會碰到金錢的元件不會即興發揮。語言模型與確定性引擎之間更廣泛的分工，繪製在LLM 在交易中能做與不能做什麼裡。

「這會害到我嗎」檢查清單

對任何 AI 交易產品用這八個問題，包括那些你已經連上的。每一個都附上那個該讓評估到此為止的紅旗答案。

#	該問的問題	紅旗答案
1	價格與指標數值從哪裡來？	「AI 懂市場」或答不清楚。數字必須來自具名的資料饋送，而不是模型。
2	模型能不能自由打字下一筆委託，還是它填的是一個經驗證的綱要？	在模型與執行之間任何地方出現自由文字。
3	系統會不會在運行之前重述它所理解的內容？	你的句子直接變成一個上線的自動化。
4	當資料缺漏或過時時會發生什麼？	它照答不誤。安全的行為是拒絕或標記，絕不即興發揮。
5	有沒有一個使用與實單相同流水線的紙上模式？	模擬是一條分開的、比較漂亮的程式路徑，或根本沒有。
6	風險限制是不是在模型之外被強制執行？	限制是提示詞的一部分。提示詞是建議；執行當下的檢查才是法律。
7	你能不能在事後稽核每一個決策？	沒有關於什麼被詮釋、被抓取、被送出的日誌。
8	行銷有沒有宣稱 AI 會「預測」價格？	有。預測宣稱加上一個語言模型，等於一份帶訂閱費的有信心的虛構。

其中兩個值得強調。第四題是那個安靜的殺手：一個無法說「我不知道」的系統，會恰恰在情況最古怪時用合理性來替代，而那正是你在依賴它的時候。而第六題把作秀與工程分開。一條寫進提示詞的風險規則，能被那個忽略事實的同一套機制忽略掉；一條在執行路徑裡的風險檢查則不能。如果一個廠商無法告訴你它有哪一種，就假設是提示詞那種。

在這些問題上不及格三個或以上的產品，不是「早期」。它們的線路被接成讓捏造能觸及你的錢。幻覺之外的其餘風險名冊，從過度擬合的回測到金鑰安全，在AI 交易智能體真正的風險裡排了名次。

幻覺不意味著什麼

一口氣把交易中的語言模型全部戒掉，會是一個錯誤的結論，因為這個失效是特定的，不是普遍的。

LLM 在語言這一層確實很強：把一段意圖變成候選規則、把一份 40 頁的申報文件摘要成三項碰到你持倉的重點、解釋為什麼一個回測的回撤集中在某一個情境、批評一套你寫的策略的邏輯。在這些用途裡，捏造要嘛不存在（來源文字有被提供），要嘛便宜可抓（你會在任何事發生之前審查輸出）。幻覺只有在模型輸出朝著執行流動、卻沒有一個確定性檢查點或一個人的檢查點時，才變得危險。

所以成熟的立場既不是信任、也不是禁絕。它是擺放：語言模型放在語言上、引擎放在數字上、關卡放在行動上。那些關卡的歸屬、以及哪些決策該永遠等一個人，是人在迴圈中的交易的主題。而如果你目前的工作流程是手動把一個聊天機器人的建議貼進一個券商，那套設定特有的失效方式，涵蓋在用 ChatGPT 做交易裡。

接下來該往哪裡走

幻覺不是一樁關於 AI 的醜聞；它是這項工具的一個屬性，就像步槍的後座力。你不會去修後座力，你會圍著它打造一個槍托與一個站姿。對任何想取得你帳戶存取權的東西問那八個問題、拒絕那些模型直接碰到數字或委託的產品，並每一次都堅持要那個重述步驟。

如果你想看看被圍堵的版本在實務中的樣子，Obside 讓 LLM 只值詮釋的班、從即時市場資料餵入每一個數字，並把每一個自動化擋在你明確的核准之後，於是一個幻覺最糟能做的，也不過是提議某個你會讀、然後婉拒的東西。

僅供教育參考，不構成投資建議。交易存在風險，可能導致本金損失。