智東西 編 | 季瑜生

導語：Instagram宣布將使用人工智能技術對用戶發布的圖片以及評論內容進行識別。

智東西10月10日消息，今日，Instagram宣布將利用機器學習技術對照片以及評論進行內容識別，將其中涉及人身攻擊的違規內容向後台管理提交。

消息發出後，認同者有之，懷疑者亦有之。

一、用AI檢測內容，能否成為Instagram與Facebook的救命稻草？

今天，Instagram宣布將利用人工智能技術來進行圖片以及評論內容識別檢測，這讓Instagram在繼聯合創始人離職後在輿論圈又火了一把。

得益於Facebook在人工智能領域的長期投入，Instagram曾於今年上半年推出了人工智能文字檢測功能，此次的新功能中在此前的基礎上又加入了照片內容識別與評論識別功能。據悉，該功能將在幾周後推出。

在新版本的功能中，針對評論過濾，用戶可以在Instagram中直接進行關鍵詞屏蔽。系統所能辨別的騷擾中，囊括了包含性格、外表、心理甚至身體情況在內的多種類型。

但是在影像過濾中，人工智能則不能直接扮演上帝之手的角色，最後的判決權還是要交給社區版主。系統一旦檢測出違規圖片，就會將發帖直接推送給社區版主，讓他們進行審核。社區版主確認影像違規之後，會把這些照片直接刪除，然後向圖片發布者發送資訊告知刪除原因。

這也就意味著之前一些人將含有侮辱性詞語的內容手寫下來後拍照上傳的行為也將無法逃過審核。

針對此次發布，Instagram的新掌門Adam Mosseri表示“Instagram是沒有欺凌的地方。作為新的Instagram負責人，我很自豪我們能夠承諾，將Instagram變成一個適合所有人的友好和安全的社區。”“利用機器學習，可以顯著減少平台上的欺凌內容，因為很多收到侵害的人他們並不會去主動舉報這些違規內容。”

於Instagram而言，將人工智能的識別對象由文本進化為影像，算得上是一個革命性的突破。

此前，在5月份的時候Instagram推出了文本識別過濾功能，但是效果並不顯著，因為發布違規文字的人不過是將文字內容變成圖片發布而已、而推出影像識別功能則意味著即使通過其他管道，違規內容也難以在Instagram之上發布了。

另外，Instagram還新推出了一款名叫“善意相機”的濾鏡，當用戶自拍時選擇了該濾鏡後，就會有心形鋪滿整個螢幕，照片發布後還會鼓勵用戶@好友來分享這張照片，或者也用這個濾鏡進行自拍傳遞。

在Instagram與Facebook處於輿論風口浪尖的時候，Instagram推出了這一功能或許正是為了扭轉其在大眾心中不斷滑落的社會形象。但究竟效果如何，還是要等功能上線了才能有一個比較客觀的評價。

二、機器識別，到底靠不靠譜？

儘管，Instagram與Facebook對這一功能寄予厚望。但事實上，利用人工智能來對文本、圖片或者影片進行識別也算不上什麽新鮮事兒。

目前，在影像內容識別方面，各大企業都已經進行了廣泛應用，例如看圖識物、以圖搜圖或者智能美顏等功能都是基於這一技術實現的。國內的百度、騰訊、新浪、今日頭條、抖音，國外的谷歌、亞馬遜、推特都將人工智能用在了影像識別領域。

今日頭條副總編輯李彤曾表示在文章審核方面，每人每天的工作量大概是1000篇，而機器一秒鐘就能處理100篇而且還日夜無休。

在圖片識別精準度上，2017年基於分類圖片的影像識別已經非常準確沒有太大的發展太空，李飛飛宣布由於ImageNet影像識別大賽不再繼續舉辦，也足以說明當前人工智能在影像識別領域的發展之快。

但是在，圖片審核上，除了精準度之外，另一大問題是如何解決圖片背後的內涵與隱性資訊以及要如何定義負面。

在今年4月10日的參議院聽證會上，共和黨參議員本·薩斯曾經直截了當的向祖克柏問道：“你能定義什麽是仇恨言論嗎？”祖克柏的回應是“這個問題真的挺難的。”

因為通常來說，在人類的表述中，同一個意思可以有各種不同的表述方式，而相同的一句話在不同人眼裡也會有不同的理解。不同的文化、不同的表述方式、不同的身份都會帶來不同的理解。

另外，隨著社會的進步，人們對於同一議題的主流看法也會不斷地變化。單單是審美觀念或者男女平權問題就在近幾年發生著天翻地覆的變化。機器學習又是否能夠掌握這些人類社會中的微妙變遷呢？

可以確定的是，在目前階段，人工智能顯然還沒有進化出如此先進的水準。

結語：成果不盡如人意但未來可期

就在四月份的聽證會上，祖克柏曾向國會保證將雇傭兩萬名員工來進行人工內容審核。人工智能當前顯然無法完全勝任人類世界中的審核員角色。

儘管技術目前還未曾進化到我們理想的狀態，但是當前的“人肉審核”們卻將會成為技術進步的奠基者，在人工審核提供了海量的樣本數據後，機器的進化指日可待。

原文來自：techcrunch