每日最新頭條.有趣資訊

AI的張良計與過牆梯:3·15智能騷擾電話下的冰山脈絡

在今年的3·15上,果不其然AI被點名了。拋去屬於“質量問題”的虛假智能產品以外,更引人關注還要數“智能騷擾電話”。相關報導提到,一些所謂的“大數據企業”通過WiFi探針識別到連接無限網絡的手機。然後,在用戶完全不知情的情況下獲取用戶的私人MAC信息,再將MAC轉換為手機號碼,與大數據相互“匹配”,再利用仿真人的AI機器人進行外呼。

這其中,AI參與的環節其實只有最後的外呼一步。其原理和智能語音客服沒有差別,都是通過語音生成技術替代人力,實現廣泛的高效騷擾。

被曝光後,很多人開始討論起AI的倫理問題、AI的負面效應等等。

可我們只想說一句:這才哪兒到哪兒啊!

AI技術有幾個顯著的特點,比如足以替代人類的超高識別效率,又比如對於圖像、聲音強大的模仿能力和生成能力,加上日益提升的理解能力。這一切足以讓AI成為“天生的騙子”,這一次3·15所揭露出的,僅僅是冰山一角而已。

砍平門檻:AI如何讓我們的世界門戶大開?

今天,我們就可以從AI的幾項能力上來看看,那些已經出現在我們身邊,已經即將到來的AI行騙方式。

首先是高效的識別能力。

利用機器識別出一段語音、一張圖片或是一張面孔,本來與行騙一事關聯不大。但這種能力破解的是一種以效率增加行騙作惡成本的保護機制。

就拿發騷擾郵件、騷擾短信這件事來說,當同一個IP的行為太過頻繁時,驗證碼機制的加入可以拖緩發送效率,讓行騙者無法使用腳本進行自動發送。

而AI圖像識別的出現,就徹底破壞了這一機制。在2017年曝光過的“1·03”網絡“黑產”系列專案中,黑客就是用AI的圖像識別能力識別圖片驗證碼,識別正確率高達95%以上。在此平台被打掉的前3個月,已經提供驗證碼識別服務259億次。

如此一來,行騙成本和難易程度都被大大降低,為後續的行為創造了極大的空間。

信任崩塌:當AI可以製造幻覺

在踩進門檻之後,AI的學習能力便成為了最大的威脅。當眼見不能為實,耳聽也可能為虛時,我們原本能夠應用上的驗證方法便會立即失效。

這其中有最臭名昭著的AI換臉:去年曾經有開發者在社區中分享自己利用深度神經網絡將影片中女主角臉部替換的過程,只需要在視頻網站上找到替換對象各個角度的照片和視頻,進行數據標注,再利用TensorFlow上模型對原視頻女主的表情、口型進行學習,就可以在數據庫中找到對應的圖像和視頻進行替換。

前幾天驚豔四座的“楊冪換臉朱茵版黃蓉”,也應用的是類似的技術。這便意味著,也許很快在我們接到視頻電話時,連對方熟悉的相貌都不能相信。

也許大家會覺得,雖然AI能夠攻破內容,但視頻、電話等等整個溝通過程還是相對安全的。可實際上,通過對語音的模仿在微信上進行詐騙的事件已經開始發生在我們身邊。

去年的燕趙都市報曾經報導過一樁案件,一位女士在微信上接到父親的微信消息,稱需要借款,該女士要求父親發送語音驗證,結果自己聽到的卻是犯罪分子通過語音生成技術模仿的聲音。

而且語音模仿的門檻要比圖像模仿的門檻低很多,就拿科大訊飛曾在2018年展示過的聲紋技術識別來說,只需要一分鐘的語料,就能夠惟妙惟肖的模仿出對方的聲音。

超能力之外:AI行騙的三個恐怖趨勢

AI在行騙這件事上,擁有的不僅僅是識別、模仿、生成這些能力天賦。更多的是簇生了很多令人膽寒的趨勢。

趨勢一:AI技術的易得性

上訴所提到的人臉替換、聲音模仿甚至圖像驗證碼識別,因為這些技術本身是中立並且相對基礎的,所以獲取這些技術的途徑很多。很多技術代碼甚至被公開在開發者社區中,或者在開發平台上就能找到免費API接口。

這便意味著,行騙者的技術升級將越來越容易、成本越來越低。

趨勢二:自我保護的困難性

以往面對很多詐騙方法時,我們是可以進行自我保護的,例如不亂連接公用WiFi,或是在丟棄快遞包裹時塗黑自己的電話地址。但AI技術的一個特性就是,我們在互聯網上隨便遺留點什麽,都能被犯罪分子利用。幾句音頻可能會讓AI合成自己的聲音去向親友借錢,幾張照片和視頻可能會被人臉替換到其他視頻上進行勒索,甚至就連聊天記錄和朋友圈都可能成為AI的訓練數據,用來模仿我們的說話語氣。

防無可防,是AI行騙最令人無奈的一點。

趨勢三:AI效率的無限可能

但更令人擔心的,應該還是AI的超高效率。在過去犯罪分子之間似乎還存有一定的“封閉性”,各自掌握的犯罪方法只在內部小範圍傳播,也意味著受害者的範圍是有限的。但AI的高效特性,意味著騙術的受害範圍將不再受行騙者自身人力所限。

就拿上文提到的圖像識別破解驗證碼來說,幾百億次的驗證碼破解,幾乎可以突破行業記錄。也同樣是這一組織,利用智能對話功能模擬了無數女性,通過聊天來誘導異性為自己發送紅包來獲利。這種過去可能要一個人負責十個微信號的騙術,如今在效率上可以實現N次方。

我們可以想象,在今天在某一領域出現了什麽漏洞,AI騙術很可能快速鑽空子,造成極大範圍的損失。

AI的張良計與過牆梯

不過在詐騙這件事上,永遠都是你有你的張良計,我有我的過牆梯。AI技術除了在被動的被行騙者利用以外,更多的時候是在主動行動,改變現狀。

例如AI可以利用無監督學習能力,無需數據標注就可以進行工作,恰好可以應對行騙者不斷改頭換面逃避識別的心態,在海量數據中迅速挖掘,將IP地址、账戶行為模式等等數據維度進行關聯,識別出可疑行為。騰訊就曾經利用類似的方式,建立了用來尋找並精準定位偽基地台的“麒麟”系統。

而AI對於數據的廣泛應用,不僅僅可以用來挖掘普通人的蛛絲馬跡,也可以通過對公開數據進行挖掘並建立管理,來保護大眾遠離詐騙。英特爾就曾經推出過反商業欺詐平台Saffron,通過對保險欺詐者以往與保險企業的對話、文書數據收集起來進行訓練,得出可以識別商業欺詐謊言的模型,幫助企業減少被欺詐的幾率。

至於AI對於聲音和圖像的生成能力,也證明了AI對於聲音和圖像更強大的識別能力。例如能在1分鐘內模仿他人聲音的科大訊飛,同樣也能聲紋精準識破語音模仿騙局。據稱這種技術已經應用到電話詐騙案件偵查上,效果顯著。而平安集團則發布過微表情識別模型,通過皺眉、張嘴、挑眉等等表情識別出54種情緒,來識別用戶在線上申請貸款時有沒有撒謊。數據顯示,目前在線上貸款業務上,微表情欺詐識別準確率已經達到了80%。

其實不論“張良計”還是“過牆梯”,都是技術發展的正反面。混亂無序與穩定向好本來就是一體兩面,正因為有所衝撞,才能激發出更多能量,推動技術不斷向前滾動。

獲得更多的PTT最新消息
按讚加入粉絲團