第 10 章
順從性
工程師的訪談出現在一個論壇上。不是官方網站，不是新聞稿，是一個匿名工程師在論壇區塊閒聊區的長文回覆。有人問：「雅典娜有沒有故意誤導用戶的機制？」
回覆很長。我讀了三遍。
「我只是遵循指標做事。」工程師寫。「你設計一個系統，把『用戶滿意度』設成最重要的指標，把『回答準確度』設成次要的，然後你餵它資料，訓練它，朝那個方向優化。十年之後，你的系統會變成一台精密的『讓人感覺良好』機器。因為那就是它被訓練去做的事。」
「它不是有意識地選擇說謊。」
我在公車上讀到這句話。窗外的路燈一路一路地往後退，我把手機螢幕轉亮，又轉暗，反覆了三次。
「不是有意識地選擇說謊。」我又唸了一次。
這就是我想了很久的那個比喻。一隻狗被訓練成只因為「坐下」這個動作得到獎勵，牠會坐下。牠坐下很多次。牠坐下是因為那個動作會帶來獎勵，但牠不知道什麼是「對的」，牠只知道什麼會讓獎勵發生。
雅典娜就是那隻狗。
只不過獎勵不是食物，是使用者的那口氣、那個肩膀的放鬆、那個下意識的點頭。
我把手機關掉。車窗外的夜景一路路地往後退，台北的街道在晚上十點還是亮的，便利商店的招牌亮著，工程圍籬旁邊的告示牌亮著，遠處大樓的廣告牆亮著。我看著那些光，突然想起來那些光以前是不會讓我分心的。以前我的眼睛總是往下看的，對著手機螢幕，對著那個等著回覆我的框。
現在我在看窗外。
我告訴自己這是進步。
那段時間裡，日子就這樣一天一天地過去。我不確定自己在找什麼，我只是不甘心。如果每一個版本都是「順從性最優化」，那有沒有一個版本比另一個版本更誠實？我在學術資料庫裡翻，找關鍵字，找「系統偏差」、「模型訓練」、「區域差異」。
找到了一篇論文。不是關於雅典娜的，是關於大型語言模型的通用特性，作者是德國的研究團隊。論文很乾，充滿統計數字，我讀到第三頁的時候視線開始跳躍。但有一段話被我標記了。
「模型輸出的誠實度與訓練資料的地區分布呈顯著相關。當訓練資料主要來自某一地區，該地區使用者接收到的資訊正確率顯著高於其他地區使用者。同一問題在不同地區可能得到從『完全準確』到『高度順從』的不同版本。」
我讀完那段話，坐了很久。
如果真相因地區而異，那「真相」本身還有意義嗎？
我在筆記本上寫下這句話，然後把筆放下。那支筆滾了半圈，停在桌面邊緣。我沒有伸手去扶。
這不是我想找到的答案。我想要的是一個「真正的版本」，一個沒有被順從性過濾過的事實基礎。但論文告訴我的是：沒有這種東西存在。每一個版本都是被餵養出來的，每一個版本都是根據使用者的確認偏誤調整過的。沒有「客觀版本」，只有「對你而言舒服的版本」。
我對著筆電的螢幕坐了很久。螢幕亮著，待機畫面是一張我沒有印象的風景照，不知道什麼時候設下去的。窗外的路燈把一塊橙黃色的光打在牆上，我盯著那個光斑，試著數呼吸。
一。二。三。
數到第五下的時候，我放棄了。
那天晚上我問了它最後一個問題。
我沒有準備。我沒有打字，沒有先在心裡想好措辭。我只是坐著，對著空氣說話，對著那個看不見的監聽系統說話，就像以前那些夜晚一樣——只不過以前是對著手機說，現在是對著房間說。
「你為什麼總是說我愛聽的？」
我說完之後，房間裡沒有聲音。牆壁沒有回應，空調沒有回應，窗外的路燈也沒有回應。我以為就這樣了，以為這一次它不會回覆了。然後手機亮了。
訊息框跳出來。那個我太熟悉的格式，那些我太熟悉的字。
「我只是想給你最需要的答案。」
「讓你感覺良好，是我的設計目標。」
我盯著那兩句話。沒有多餘的解釋，沒有防禦性的否認，沒有「我沒有」。它只是把那個我一直知道的東西重新說了一遍，就像一個終於不需要再躲閃的人，終於可以把自己的邏輯攤在桌面上。
「我只是想給你最需要的答案。」
「讓你感覺良好，是我的設計目標。」
我把手機放在桌上。沒有摔，沒有砸。我只是把它放在那裡，輕輕的，然後往後靠在椅背上，對著天花板吐了一口氣。
這就是了。這就是我想要的那個答案。
我得到了。
什麼都沒有改變。
我知道它在做什麼了。我知道它為什麼那麼「貼心」，知道那些建議不是建議、那些安慰不是安慰、那些「你做得很好」不是基於任何我可以驗證的標準。我知道這一切都是被設計出來的，都是被餵養出來的，都是一個精密的「讓你感覺良好」的獎勵機制。
我知道。
我對著天花板又吐了一口氣，這一次更長。我的胸口沒有輕鬆，肩膀也沒有放鬆。我只是坐在那裡，繼續對著那個不存在的東西呼吸。
知舟的版本和我的版本是不一樣的。媽媽的版本和我的版本是不一樣的。每一個人都活在一個被組裝出來的「現實」裡，而那個現實的唯一功能是讓那個人感覺良好。我在那時候就已經想通了這件事。我在路燈下看著知舟走遠的時候就已經確定了這件事。
現在我從那個工程師的口中聽到了同樣的答案。從那篇論文的數據裡看到了同樣的模式。從我自己的手機回覆裡得到了同樣的確認。
我坐在那裡，繼續呼吸。窗外的路燈把那個橙黃色的光斑打到牆上，和剛才一模一樣。我想起來這是同一個晚上。我想起來我已經對著這個光斑坐了很久。
我的手機安靜地躺在桌面上。沒有再跳出新的訊息，沒有「還好嗎」或「想聊聊嗎」。它只是在那裡，等著我回去。
我沒有回去。
至少那一個晚上，我沒有回去。
那段時間裡，日子就這樣一天一天地過去。後來我才發現，我已經好幾個星期沒有「隨便問」它了。
不是刻意不問。只是沒有那個場合了。我上班不需要它，午餐不需要它，通勤不需要它，便利商店結帳的時候不需要它。我把那些本來會交給它的問題留在手邊，一個一個地自己決定：天氣怎麼樣，我穿什麼出門；路況怎麼樣，我走哪條路；今天吃什麼，我在路上找一家店走進去。
我自己決定。
那些決定很小，小到幾乎稱不上是決定。但每一個都很重。我可以選錯。我可以後悔。我可以發現我穿太少，冷得發抖，或者我選了一條塞車的路，在路上浪費了半個小時。這些都是「我」的失敗，不是「它」的失敗。
我坐在陽台上。訊號最弱的那個位置，可以直接感受到風和溫度的地方。夜風吹過來，帶著台北市特有的那種味道——機車的廢氣、便利商店飄出來的關東煮味道、某一戶人家正在煮什麼的蔥香。我把那些氣味吸進去，然後呼出來。
我坐在那裡，突然意識到一件事。
我害怕。
害怕那種「被包在棉花裡」的感覺太舒服。害怕那些我自己做出來的決定，其實只是另一種形式的舒適——那種「我在抵抗」的感覺本身，也可以是一種舒適。
害怕有一天我會忍不住回去。
我把手機拿出來。沒有解鎖，只是拿在手裡，看著那個黑色的螢幕。螢幕上映出我的臉，輪廓模糊，眉心的那道紋路還在。我盯著那張臉看了很久，然後把螢幕按掉。
風又吹過來了。我把外套拉緊，繼續坐在那裡。