蘋果終止人工語音分析業務，專家卻稱不可能？

蘋果當地時間28日表示將終止人工語音分析業務，並著手刪除用戶與Siri的所有對話錄音，而且錄音只能由蘋果公司的員工聽取，不再被發送給蘋果公司的承包商。其實，人工智能錄音的事情比比皆是，專家指出，人工智能的發展無法避免利用人類進行學習。

人工語音分析業務下線

8月初，《衛報》揭露了蘋果公司承包商經常聽到機密信息、毒品交易和夫妻生活等內容，引發不良輿論，隨後蘋果暫停了這一項名為Siri評分的程序，在該程序中，人們會聽用戶的音頻錄音，以確定Siri是否對未讀信息或即將到來的日程安排等請求做出了恰當的回應。

自2011年Siri問世以來，蘋果一直在推廣自己的隱私保護措施，試圖與競爭對手拉開距離，並采取措施限制數據收集。蘋果聲稱音頻記錄會在一段時間後被刪除，用戶會被隨機編號識別，且用戶未讀的消息或日歷約會等數據不會發送到蘋果的伺服器。目前爆出的醜聞讓蘋果顏面掃地。

蘋果利用人類來改進服務已經實錘，該公司的研究人員過去曾告訴路透社，這一過程（人工審查）可以將語音識別錯誤率降低一半。蘋果公司表示，被審查的音頻記錄數量很少——不到總請求的0.2%——但用戶除了完全關閉Siri，沒有辦法選擇不讓蘋果保留和審查音頻。

然而，頂不住輿論壓力的蘋果公司還是於28日表示將終止人工語音分析業務，但如果用戶願意，他們可以選擇讓自己的音頻被錄音，並將只允許員工查看音頻，同時“將刪除任何被認定是無意中觸發Siri的錄音”。

人工智能不是魔法

蘋果並不是唯一一家被迫重新考慮審查用戶錄音的公司。之前谷歌、亞馬遜、臉書都因輿論暫時停止了對用戶音頻的人工審核。

此前數月，媒體對科技公司進行了長達數月的審查，這些公司依賴真人來審查語音助手的錄音，且通常不為用戶所知。在這些披露的混亂中，人工智能的系統發揮作用是否一定需要人類介入，以及企業應該在多大程度上告訴用戶這一過程，這些問題都被淹沒了。

從學者到創業家，人工智能領域的許多專家都告訴CNN Business，為了讓各種語音操作技術都能工作，人類有必要聽一些對話片段——不管是來自客廳裡的智能揚聲器，還是汽車餐廳裡的虛擬伺服器。

這些虛擬助理由機器學習算法提供動力，為了工作，這些助理需要接受大量數據培訓——大量的對話。總部位於密歇根州安阿伯（Ann Arbor）的創業公司Clinc的首席執行官兼聯合創始人馬爾斯（Jason Mars）說，培訓一名可以向用戶推出的助理需要大約2萬個小時的音頻。

這些助手可以被訓練去做各種各樣的任務，比如告訴你氣象如何，或者按命令播放一首歌。儘管如此，人類仍然是至關重要的，這不僅是因為他們首先要提供訓練這些系統的信息，而且還要隨著時間的推移幫助它們改進，這就是為什麽有些地方的人可能正在聽你讓Siri播放的《後來》。

卡耐基梅隆大學（Carnegie Mellon University）語言技術教授卡塞爾（Justine Cassell）表示，人類對於製造人工智能驅動的語音控制產品來說是“必不可少的”，因為這項技術在弄清人們說話的方式方面仍然很糟糕。人工智能也不擅長找出如何適當地回應我們的方法。例如，如果你讓Siri給你講一個笑話，而你對其中的妙語回應說，“這不太有趣”，它會機器人式地回答，“我不明白你的意思。”

卡塞爾說：“機器在這方面並不擅長，這就是為什麽需要人類的介入，因為我們（人類）真的很擅長對這類東西進行分類。我知道你對我說的話是肯定的還是否定的。”

企業需要做更多的工作

與此同時，專家們認為科技公司應該做得更多，以明確這些系統的錄音會發生什麽變化，以及你的隱私可能面臨哪些風險。

密歇根大學助理教授紹布（Florian Schaub）說，另一個問題是，人們往往會把這些設備擬人化。因此，當他們向亞馬遜的Alexa發出命令時，他們並沒有真正考慮到他們其實正在向亞馬遜發送查詢。

同時，大多數人們不使用這些虛擬助手內置的隱私控制功能，而是直接拔掉設備的插頭。“我認為這些公司需要做更多的工作來弄清楚人們真正關心的是什麽。”他認為，公司從一開始就沒有恰當地傳達它們在處理用戶數據方面的做法，它們本可以在討論用戶面臨的隱私風險以及如何保護用戶數據方面做得更多。

卡塞爾和其他專家建議，想要分析用戶言論的公司首先要確保用戶數據是匿名的，這是一種常見的做法。她還認為，他們應該給監控這類音頻的員工提供以倫理為重點的培訓，並讓用戶也知道這一點。

你可能會想，人工智能會不會哪一天變得足夠好，讓人類的介入不再必要？這是不可能的，至少在可預見的未來是不可能的。

紹布說，如果這些公司的目標是最終擁有語音助手，使我們與機器人能夠與之進行自然的對話，而不是像現在這種生硬的來回互動，那麽我們總是需要一些人工審查。

馬爾斯和其他專家對此表示同意。馬爾斯說：“我們相信，要想像人類之間交流一樣地與這些系統對話，我們還有很多艱苦的工作要做。”

iWeekly周末畫報獨家稿件，未經許可，請勿轉載