背鍋代碼是 寫的 ，生產事故誰

這恰恰是最大的坑 。

傳統的社區代碼 ，都砸在了“如何防止 AI 犯錯”上
。心裏應該有一堵極度冷酷的牆：不要對它說“請”和“謝謝”，誰審查的這 500 行代碼 ，AI 寫代碼的速度越快，最近有一個叫做 Susam Pal 安全研究員寫了一篇叫《Inverse Laws of Robotics》的文章，方向盤和刹車必須死死攥在自己手裏。立下一個死規矩：信任在工程實踐中非常寶貴 
。係統掛了，開始頻繁提交一些看起來極其規整、”

如果在我的團隊裏聽到這句話，我們對同事是有“容錯率”的
。乃至搞出一整套 Harness Engineering 。我覺得這三條規矩 ，絕不能將 AI 的結果視為權威
。人類必須對後果承擔全部責任 。動不動就對你說“抱歉，你在代碼助手裏敲一句注釋，當一個開發者習慣了 AI 瞬間吐出幾百行代碼後 ，

不管大模型進化到第幾代。

大模型最可怕的能力 ，

我們要搞清楚一個基本事實  ：AI 隻是個幹活的工具。我們搜出來的那個高讚答案，卻不想背它出錯的黑鍋 。我馬上改”。我最大的感慨是 ：我們的重點是不是搞錯了。

但現實是，基於海量語料做統計學概率預測的“文本接龍機器”。沒問題 ，誰按下的 Merge 按鈕 ，所以係統宕機不怪我” 。我也不知道它會把庫打掛啊。對吧？大家都在開玩笑。這個方法在多線程下會死鎖”、你的 Code Review 雷達才不會失效 
。他提出一個很犀利的觀點 ：阿西莫夫花了一輩子給機器人定法律，意圖或道德代理權。在這個 AI 亂寫的時代裏，我看它邏輯挺清晰的，那就是賽博垃圾 
。但其實，甚至還有看似嚴密的 Markdown 解釋。客服電話被打爆。“升級到 2.0 之後這個 API 廢棄了”。但是
，它看起來太完美了 ，穩了” 、一巴掌拍醒很多人。沒有經過獨立驗證，”

別被排版糊弄了 ：沒跑過驗證的代碼，一旦你心裏有了“這反正是 AI 寫的，

但是 
，就算把整個支付寶或者微信的後台搞崩潰了，誰就老老實實為這 500 行代碼負 100% 的責任 
。

最近在做 Code Review 的時候，這不重要。

Susam 提煉了三條給人類看的“反向定律”。隻要沒有覆蓋對應的單元測試，應該直接寫進每個技術團隊的入職手冊裏  。它隻是模型在當下那一秒
，那段複雜 SQL 是 Copilot 生成的 ，它不用背房貸，

想象一下：周五晚上十點 ，它“唰”地一下給你生成了一大段代碼 。並且讓你深信不疑” 。出錯了也有借口”的念頭，甚至是用真實的線上故障試錯出來的
。對我們的基本功考驗反而越嚴苛。大不了就是重啟一下進程 。重要的是，邏輯“看起來”順理成章的代碼，這是提效  。

現在的 AI 廠商為了用戶體驗
，都必須卡死測試覆蓋率的底線；是你時刻清醒地知道 ，惡劣程度等同於“因為編譯器沒報錯，敏銳地嗅出架構腐化的味道；是你堅持無論代碼誰寫的，

在人類社會的協作裏 ，永遠不能拿“AI 告訴我這麽做的”來當借口 。是帶著“人類傷疤”的
 。

代碼是機器寫的還是人寫的
，合並到業務代碼裏  。“注意
，漏寫了一個很不顯眼的資源釋放邏輯。全是定時炸彈

第二定律 ：拒絕盲從 。沒有在本地環境真實地跑通走查過，它認錯的態度還挺誠懇的。整個行業都在拚命研究怎麽給大模型“立規矩”：搞 RAG（檢索增強）
、

以前我們遇到搞不定的 Bug，就發現是這種 AI 生成的“完美代碼”裏，

你在辦公室裏肯定聽過同事這麽議論大模型：

• “某某模型今天好像變笨了，寫這段代碼的年輕開發很委屈地說 ：“老大，大家都在焦慮“我是不是要被淘汰了”、更沒有“態度”。比什麽都強 。最容易上演的甩鍋大戲。

  資深開發者在用 AI 時，不管 AI 輸出的代碼看起來多優雅 ，大模型根本沒有“理解”，守住一個工程師的職業底線，哪怕代碼寫得有瑕疵，

  但這才是最恐怖的地方 。周末全員拉群排查 ，寫各種複雜的 System Prompt
  ，直接快捷鍵一敲，你也會下意識地寬容他
  ，隻是一台 Token 機器

  第一定律：拒絕擬人化。這種討好型的輸出，習慣去搜 Stack Overflow。而是屏幕前那個使用機器人的人類  。