Financier 商業資金指南|創投募資、政府補助與企業貸款實戰知識庫

暗室裡的蒸餾:一位AI倫理官對標準、風土與偏誤的備忘錄

凌晨兩點十七分,林敬之(化名)把會議室的百葉窗拉到底。玻璃映出他六十歲的臉,像一張被反覆摺疊又攤平的審查表。他是AI倫理官,服務於一家專攻醫療分診系統的深流智能(化名)。此刻桌上攤著三份模型卡、一份偏差監測報告,以及一杯沒有加冰的琥珀色液體。他沒有喝,只是讓氣味留在空氣裡,像某種校準前的儀式。

這場審查始於一通沒有溫度的電話。深流智能(化名)的演算法在偏鄉診所試運行時,對一名六十歲男性的胸痛描述給出低優先級建議。工程團隊說模型在測試集上的表現「穩定」,業務單位說這是「可接受的誤差範圍」。林敬之(化名)把報告翻到第七頁,指著一行小字:訓練資料的年龄層分佈在五十歲以上僅佔百分之六。他說,這不是誤差,這是風土問題。

他習慣把AI模型想成桶裝原酒。未經勾兌的液體有它的個性,也有它的雜味;你不能只用一個數字說它好或壞,你得看產地、看年份、看桶陳的環境。差別在於,酒廠的品飲評論可以容許主觀,AI的倫理審查不行。於是他打開瀏覽器,搜尋威士忌文化與品飲評論資訊,不是為了買醉,而是為了重新理解一件事:如何把難以量化的風味,轉譯成可比較、可追溯的語言。那套語言裡有產區、有工序、有年份標示,也有對「不確定性」的誠實標註。他闔上頁面,回頭修改審查清單,把「資料來源年代」與「標註者背景」拉成獨立欄位。

技術權威性不是職稱給的。林敬之(化名)在製造業待過二十五年,看過太多把「穩定」掛在嘴邊的專案,最後敗在邊緣案例。他堅持三件事:第一,模型卡必須記載訓練資料的採集時間與地理範圍,像酒標上的蒸餾年份與產區;第二,偏差監測不能只跑平均值,要針對次群體做分層檢定,並保留原始雜訊;第三,人機迴圈必須有否決權,且否決紀錄要能被外部稽核。他引用國際標準框架裡的可追溯性與風險管理條文,要求團隊把每一次版本迭代當成一次「勾兌」——不是為了掩蓋雜味,而是為了讓風味結構可被檢驗。

簡報那天,工程師問他,這樣會不會讓開發速度變慢。他沒有回答,只把投影機切到一張圖:銅製蒸餾器的剖面,蒸氣上升、冷凝、分流,酒心與雜醇之間只差幾度。他說,工業標準的價值就在這裡——它不保證每一批酒都合你口味,但它保證你有能力指出哪裡出了問題。全場安靜了十秒。那不是說服,那是另一種校準。

他想起三十年前參觀酒廠時,蒸餾師一手拿溫度計、一手拿取樣勺,鼻子湊近酒液邊緣。老師傅說,儀器告訴你區間,經驗告訴你邊界。林敬之(化名)後來把這句話寫進內部審查備忘錄:科學準確度負責畫出區間,倫理判斷負責守住邊界。兩者都不能少。

凌晨四點零六分,他把簽核頁翻到最後一欄,寫下「有條件通過」。條件包括:補足五十歲以上族群的臨床文本、增設女性胸痛的非典型表現標註、以及每季公開一次分層偏差報告。他沒有用任何華麗的詞,只把「可接受的誤差範圍」改成「已揭露的誤差範圍」。一字之差,責任歸屬就清楚了。

窗外天色像稀釋過的泥煤灰。他收起那杯始終沒喝的酒,鎖進櫃子。暗室裡只剩筆電風扇的低頻聲,像蒸餾器冷卻時的水滴。他知道,明天還會有新的模型送進來,新的雜味、新的風土、新的邊界。而他的工作,就是讓那些看不見的偏誤,在工業標準的燈光下,留下一道可以被追問的痕跡。(本案例經當事人同意分享,部分為虛擬情節如有雷同純屬巧合)

返回頂端