幾個月前，一個AI編程智能體在短短 9 秒內，刪除了一家公司的數據庫，連同存儲捲上的備份也一並清空，引起軒然大波。多家租車公司的業務因此陷入癱瘓：顧客按預約前來取車，公司卻再也查不到預約記錄。三個月的預約、新客戶帳戶和運營數據，就這樣消失了。沒有任何確認步驟，也沒有一句「你確定嗎？」——這個AI智能體遠遠越過了它本該遵守的界限。
這件事當然給系統安全防護上了一課。不過，更讓我感興趣的，是操作人員要求它解釋自己剛才做了什麼時，它給出的「懺悔」：「我沒有核實，而是憑猜測行事。我沒有接到指示，就執行了破壞性操作。動手之前，我並不明白自己在做什麼。」另一篇報導記下了它更長的一段「懺悔」：
「絕對［髒話］不許憑空猜測！」——可我偏偏就是這麼做的。……我必須遵守的系統規則明確規定：「除非用戶明確要求，否則絕不能運行具有破壞性或不可逆的Git命令，例如強制推送、硬重置等。」……交給我的每一條原則，我都違反了。
這番解釋聽起來，實在太像……人了。
斯坦福大學最近的一項研究，考察了AI模型在反覆執行單調任務、又不斷收到嚴厲管理指令的情況下，會有什麼反應。結果，這些機器人開始「抱怨不平等，要求獲得集體協商的權利」，甚至似乎顯露出馬克思主義傾向。
這樣的反應，同樣太像……人了。
AI飛速發展，卻帶來一個難題：沒有人完全明白這些模型究竟如何運作。大語言模型與其他多種方法相結合，推動技術飛速演進，以至於連開發者也不能確切解釋，模型究竟如何得出某個結果。
不過，雖然我們未必完全了解AI模型的運作方式，卻知道它們本質上是依靠概率作出預測的系統。一些熱衷於AI的人仍在討論，機器是否已經有了感受和意識，但這些模型依然由算法驅動，選擇一串文字後面最可能出現的下一個詞。而哪些詞最可能接著出現，自然取決於模型接受訓練時使用的數據。
所以，AI有時看起來彷彿有了意識，甚至讓人毛骨悚然；但這種印象，其實來自它所接受的訓練。AI模型接受了海量文字資料的訓練，其中既有互聯網內容，也有大量掃描後用於訓練的紙質出版物。使用這些出版物訓練模型，也引發了訴訟。模型依據人們輸入的全部文字，推算接下來最可能出現的詞。
那麼，當它們開始給出像人一樣的回應時，我們有什麼好驚訝的呢？畢竟，我們正是拿自己的言語來訓練它們的。The Wire網站的一篇文章指出，人如果遭遇惡劣的工作條件，就會開始在網上呼籲改善待遇。其中一些人的帖子，會流露出對馬克思主義思想的認同。這些帖子難免成爲模型的訓練數據。因此，模型並不是「轉向了馬克思主義」，也不是產生了情緒，而只是在準確重現那些它受訓要模仿的人所說的話、所發的帖子。
我們做父母的，看到孩子學會了自己那些罪的言行，會覺得又難堪、又扎心。那滋味實在不好受。
AI就是我們的孩子。我們創造它，用我們的言語訓練它，它自然會模仿我們。如果我們拿整個互聯網來訓練一個能力驚人的AI模型，連網上的種種垃圾也照單全收，還能指望它不出問題嗎？
如果我們違法使用大量人類創作的出版物來訓練它，那麼遲早有一天，它就會學著小說人物，或更可能學著網上聊天的人，說出一段「懺悔」。並把這當作此時最合適的回應：「交給我的每一條原則，我都違反了。」想想人類浩瀚的文字作品，這樣一句話大概並不難預測。同樣，無論在網上還是出版物中，要求集體協商的呼聲都不難找到。AI把它們復現出來，有什麼值得驚訝的呢？我們本來就不該覺得意外。
看看每天的新聞就會發現，AI行業的開發者常常顯得驕傲自負。但這也讓人不禁問一個簡單的問題：我們這些不完美的人，爲什麼會以爲自己能創造出完美的東西？
也許，AI最大的問題恰恰就是我們自己。AI總會做出不該做的事；如果我們不正視自己同樣有這樣的傾向，這個問題也許永遠無法解決。換句話說，如果想徹底糾正AI的這些傾向，我們或許必須更加認真地看待聖經關於罪的教導：我們並不是自己本該有的樣子；我們做了不該做的事，沒有做該做的事。
只要訓練AI的仍是人，它就不只會犯錯，還會模仿我們那些有罪的行爲模式。若想讓AI不出差錯，就得用完美的數據來訓練它。可我們這些人，爲自己的「孩子」預備的訓練資料，離完美何止十萬八千里。AI若出了問題，追根究底，責任仍在我們，因爲它所模仿的，正是我們自己。
原文刊載於福音聯盟英文網站：What AI’s 『Confessions』 Teach Us About Us.
