AI刪庫，程式員背鍋？

新智元推薦

【新智元導讀】本來AI幫忙刪代碼bug是一件好事情，但是近日美國版“大眾點評”——Yelp訓練的神經網絡卻闖禍了，它把所有的一切都當成bug，並全部刪掉了。快來看看到底是怎麽回事兒吧。

又一代碼清庫的慘案發生了，不過這次要背鍋是 AI。

近日，美國最大點評網站 Yelp 的工程師訓練的神經網絡闖禍了。他們訓練了一個用來消除 bug 的神經網絡，萬萬沒想到，該網絡刪除一切，從根上徹底了實現“bug-free”......有點兒厲害。

Yelp 團隊在 APP 中向近期可能感到體驗不暢的各位用戶致歉，該團隊還表示，他們將不得不進行回滾（Roll back），但隨即話鋒一轉，他們說好的一面是，這說明 APP 中 100% 沒 bug 了啊。

好吧，沒跑了，這個鍋還是工程師的。

神經網絡算法的這一波操作，讓人不禁想起郭德綱的一個相聲段子，“我心善，見不得窮人，於是把自己目之所及的窮人全趕走了。”收到工程師的任務指令後，興許 AI 發現一個個 debug 太不省心，心一橫，乾脆一鍵 all clear 算求。

這事要在國內互聯網公司，搞這個大一個工程事故，九成要說殺一個工程師祭天，儘管 Yelp 最後的點睛自嘲蠻輕鬆的，但人前賣笑，誰知道代碼清除後工程師是不是目瞪口呆或者心裡在吐血呢......畢竟，要 Roll back。

Roll back 究竟意味著什麽？它指的是程式或數據處理錯誤，將程式或數據恢復到上一次正確狀態的行為。那 Roll back 工作量有多大呢？回滾對程式員意味著非常嚴重的失誤，微博網友@互聯網八卦民工評論說，Yelp 在真實環境訓練自己的人工智能神經網絡去刪除 app 中的 bug，結果是人工智能把所有都東西都刪了，這不是一個簡單的 Roll back。

網友們更好奇的是 Yelp 的工程師訓練了一個怎樣的網絡？拿何種樣本訓練的？損失函數是如何設計的？有人猜測，代碼裡面沒有 bug，損失函數一直是零，BP 和優化器無用武之地，所以觸發異常，把整段代碼都視為 bug？

代碼裡面沒有 bug 似乎不太可能，翻閱 Yelp 的版本更新歷史記錄，你會發現這簡直是一部“除蟲史詩”，你們感受一下：

本來是想讓 AI 來幫忙 debug 的，現在工具反到成了阻礙。不知道是 debug 工具本身的黑箱問題，還是使用它的人沒找到正確的“竅門”。至於這次 Yelp 工程事故報告還未有進一步的資訊披露，但用神經網絡算法 debug 應該有風險，部署需謹慎。

不過一款讓工程師省時省力的 debug 工具顯然是人人所期待的，在此前的一篇文章——

《@程式員，終於可以放心寫bug了！Facebook的debug神器你值得擁有》

中提到，去年 9 月，Facebook 基於 AI 技術再次推出新款代碼調試工具 SapFix，可針對特定的 bug 自動生成修複程式，然後將其提交給工程師，經確認之後，然後再部署到生產環境中。相比其一年前已投入大規模使用的智能自動化軟體測試工具 Sapienz，SapFix 能夠在沒有 Sapienz 的情況下運行，主要用於修複 Sapienz 在生產前發現的程式 bug。

從發現 bug 到修複 bug，Facebook 有一套完整的流程：首先 Sapienz 以及 Facebook 的靜態分析工具 Infer，會幫助定位代碼中需要修補的點；一旦 Sapienz 和 Infer 精確定位與崩潰相關的特定代碼部分之後，就會將該資訊傳遞給 SapFix；最後，SapFix 會參考幾種不同的策略，自動生成補丁。

根據 Facebook 的數據，Sapienz 報告的大約四分之三的錯誤都需要開發者來修複。自 Facebook 開始測試 SapFix 之後，該工具已經成功生成了被人類審核者接受並部署於生產的補丁。不過，目前 SapFix 總體上仍在開發階段。

Facebook 都還只是在嘗試階段，Yelp 的工程師這次似乎對自家的 debug 工具太自信了，一鍵清庫簡直不能更酸爽，不知道他們這次有沒有感受到來自深度學習的威力。

【加入社群】

新智元AI技術+產業社群招募中，歡迎對AI技術+產業落地感興趣的同學，加小助手微信號：aiera2015_2入群;通過審核後我們將邀請進群，加入社群後務必修改群備注（姓名 - 公司 - 職位;專業群審核較嚴，敬請諒解）。