周鴻禕：人臉識別也有缺陷，會被一種奇怪條紋“屏蔽掉”

圖片來自：視覺中國

鈦媒體快訊｜5月16日消息：在今日舉行的第三屆世界智能大會高峰會上，360集團創始人、董事長兼CEO周鴻禕發表演講。

他在演講中，用最近發生的三件與人工智能有關的事情，揭示了人工智能的安全隱憂。他說，講這三件事並非貶低人工智能，恰恰相反，關注安全有利於人工智能更好地發展。因為只有安全的信息化，才會給人民帶來安心和幸福的信息化。

無人值守系統裡，最後的控制權應該留給機器還是人？

周鴻禕提到的第一件事是波音737MAX墜機事件。近期，737MAX型飛機在過去六個月內發生兩次墜毀事故，原因為其飛行控制系統的嚴重安全風險。周鴻禕自稱非航空專家但也看到兩個問題，一是系統設計的再完美，一旦傳感器出錯，就會影響飛行控制系統的判斷，繼而“犯錯”。二是當計算機出錯後，究竟是聽計算機的還是駕駛員的？

“大家都應該思考這個問題”，周鴻說，在將來無人車、無人工廠、無人碼頭等眾多無人值守系統裡，當我們沒有很大把握的情況下，在傳感器誤報、數據被汙染的情況下，最後的控制權和決定權應該留給機器還是人？

只要把一種奇怪的條紋列印下來，別在衣服上，就能“屏蔽”掉人臉識別系統

周鴻禕講的第二件事從“逃犯克星張學友”說起，據悉，因為張學友演唱會現場的“人臉識別”技術，警察輕鬆抓獲多名在場逃犯。不過，周鴻禕提醒大家不要隻覺得人臉識別厲害，這一技術本身也存在先天缺陷：黑客們通過研究發現，只要把一種奇怪的條紋列印下來，別在衣服上，就能“屏蔽”掉人臉識別系統，出入自由。

“這種衣服可能會很暢銷”，周鴻禕不忘在演講中調侃。他認為，這還只是不太嚴重的情況。以小見大，一些無人駕駛的汽車，可能會被馬路上‘奇怪’的符號誤導，導致嚴重的交通事故。

為了杜絕這種情況，周鴻禕建議企業在上線系統前，應做好安全檢測，做好“實網攻防”。

“要用實際的攻擊發現問題，而非靠靜態的研究證明系統的安全”，周鴻禕還為公司“打廣告”，“一定要找我們這些天天吃飽沒事乾的‘黑客公司’來幫大家做實際的攻防，在我們手裡發現問題，比在實踐中發現問題可能要好一些。”

為何調侃劉慶峰？

“我要攻擊劉慶峰”，談到第三件事時，周鴻開門見山，調侃科大訊飛劉慶峰。據悉，去年人工智能大會期間，兩人埋下了“吃包子”的恩怨，劉慶峰爆料周鴻禕在最近的活動中連續吃了11個天津狗不理包子。

不過，“吃包子”恩怨是假，擔憂人工智能是真。周鴻禕指出，去年劉慶峰在演講中播放了用人工智能“偽造” 的川普視頻，引發了他的思考。他在演講中提醒大家：最近，美國已經有人利用人工智能將色情視頻裡的女主角換成女明星。這一技術正引發恐慌，遭到美國政府查封。

“我今天已經不相信朋友圈裡的美女了”，周鴻禕說，如果這種工具降低了每個人的做假成本，就可能會出現假新聞、假名人視頻。這顛覆了我們過去“百聞不如一見”的固有觀念，甚至會在關鍵時刻帶來混亂。

“新加坡正在制定相應的法律”，周鴻禕呼籲我國也應加強對該類問題的重視，防止這樣的“工具”流傳，引發一系列道德倫理問題。