YouTube推薦算法的罪與罰

【獵雲網（微信號：ilieyun）】4月1日報導（編譯：逐夏）

獵雲網注：兔子洞是一個比喻，指把某人帶入一個奇妙的或麻煩的超現實狀態或情境。在互聯網上，兔子洞通常指的是一個非常引人入勝和耗時的話題。

紐約時報科技與商業專欄作家Kevin Roose表示，它被稱為“21世紀最強大的激進化工具之一”、“分裂、陰謀和仇恨內容的培養皿”、更是“驅使人們到互聯網最黑暗角落”的工具。

Kevin說的正是YouTube，具體的說是YouTube的推薦算法。YouTube的推薦引擎決定了用戶在觀看了某一視頻之後將會播放哪些視頻。推薦引擎是YouTube強有力的心髒，它能夠吸引用戶在該網站上流連數小時。YouTube公司稱用戶在YouTube上花費的總時間中，看推薦內容的時間佔比70%。

但如今，由於該推薦引擎被指控引導用戶瀏覽偏激的內容，於YouTube而言它卻成了一個越來越大的負擔。最近紐西蘭克賴斯特徹奇發生了大規模槍擊事件，而這正是一名在網上顯示出有激進傾向的槍手所為。批評者們都質疑YouTube和其他平台不僅允許仇恨及暴力內容在網絡上出現，更在積極地向用戶推廣這些內容。YouTube的最大對手Facebook這周表示將在該平台上嚴禁白人民族主義和白人分裂主義。

最近Kevin就大眾對於YouTube推薦引擎的批判以及該公司應對激進及暴力極端內容的舉措訪談了其首席產品官Neil Mohan。Kevin和Neil談到了YouTube未來的計劃以及該公司就極端內容已采取的控制措施，如聘用額外的評論者、引入主要新聞事件後起效的突發新聞欄、及修改推薦引擎以降低陰謀論和其他偏激內容的傳播。

以下為訪談實錄，由獵雲網編輯刪減。

Kevin：不知您對於大眾對YouTube上含過激內容的批判有何看法？

Neil：我想也許我需要一分鐘時間回顧一下，然後我來談下我們關於這一問題的看法。正如你所知，YouTube起初是一個在內容、聲音、觀點和想法等方面都開放的平台，當然它現在仍是。我認為問題與此事實有很大的關係。網站上很多內容確實越了常規，很多看法你、我和他人也可能都不會持相同觀點。但若不是堅信不同聲音和意見的力量強大，我不會在YouTube從事我現在的工作。話雖這麽說，如今我們確實已非常嚴肅地對待有害信息、仇恨內容、以及在有些情況下可煽動暴力的內容的傳播。

Kevin：我聽說過很多關於兔子洞效應的說法。當你開始觀看一個視頻，然後你就會被建議觀看內容稍微極端一點的視頻等等，突然你就在觀看內容非常極端的視頻了。這是真的嗎？

Neil：是的，我之前也聽說過此現象。我認為這個描述有些虛構之處，而我有必要揭穿這虛假之處，對我來說這是有益的。首先第一點是關於推薦用戶觀看內容暴力的視頻會延長用戶觀看的時間並在某種程度上可以提高公司的效益的觀點。我可以明確地告訴大家，YouTube的推薦系統並不是如此設計的。觀看時間只是系統設計使用的考慮之一，事實上系統設計還要考慮用戶的參與度與滿意度。與其他類型的內容相比，極端內容並不能驅使用戶參與度增高，並使用用戶觀看視頻的時間延長。

第二、推廣這一類含過激內容的視頻並不符合我們公司的商業利益。過激內容視頻並不能很大程度上增加用戶的觀看時間。很多時候廣告客戶並不想與這類內容聯繫在一起，所以由過激內容增加的觀看時間並不能產生盈利。

所以說要說這個問題與我們公司的商業利益相關，我認為這純粹是虛假的。

Kevin：那為什麽人們會談論兔子洞效應呢？你知道當我觀看了一個關於川普總統的視頻之後，現在我得到的一系列推送都是關於黨派內容的。人們認為這就是在YouTube上發生的事，你覺得原因是什麽呢？

Neil：這正是我們在修改搜索引擎的時候密切關注的地方，幾周前我也曾向你們提過修改推薦引擎這件事。我們關注的重點是在推薦視頻這一版塊都發生了什麽。第一點我要說的是當用戶觀看完一個視頻之後，我們會推薦其他視頻，但我們並沒有考慮到這些視頻是否包含了或多或少的過激內容。

所以當我們查看數據時，如你所料，數據顯示被推薦的視頻與用戶已觀看的視頻內容是相關的，這顯然並不奇怪。但用戶在推薦視頻版塊上觀看的視頻內容很可能比之前觀看的視頻內容要稍微偏激一點。用戶也會觀看到他們眼中所謂的主流視頻，這些視頻內容並沒有那麽偏激。看到哪樣的視頻取決於用戶的行為，很可能某些用戶一開始本可以點擊觀看內容比較極端的視頻，但事實上他們看了常規的視頻。

這是在我們仔細研究了推送這個問題之後得出的結果。這並不意味著我們不想解決我們談論的這個問題，這只是......

Kevin：抱歉，能打斷您一下嗎？我想明確一下，您是說YouTube上沒有兔子洞效應嗎？

Neil：我正嘗試向你解釋這個問題的本質。當用戶觀看了一個視頻之後，用戶會看到一系列的推薦視頻。其中有些視頻可能會給人一種含很多極端內容的感覺，而其他視頻則給人一種不怎麽含極端內容的感覺。我再一次明確YouTube的推薦系統並沒有這樣做，因為這並不是推薦系統的考慮點之一，這只是用戶在推薦視頻版塊上觀察得出結論。

我並不是說用戶不能點擊那些所謂很過激的視頻中，並觀看該視頻，之後再觀看系統推薦的一系列視頻，這樣一直朝一個方向或另一個方向看下去，但我想說的是這並不是不可避免的。

Kevin：就突發新聞方面，YouTube是使用經核準或有可靠來源的信息而不是常規的推薦算法來向用戶顯示權威信息的，這對於徹底改變推薦和搜索結果的運行方式非常的重要。那為什麽不在所有方面都這麽做呢？

Neil：就此我想談幾點。其一、使用經核準或有可靠來源的信息不僅僅適用於突發新聞方面，也可適用於其他信息方面。話雖如此，但當其應用範圍擴大到其他方面時，功效就會大打折扣，而且還要付出相應的代價。比如，當很多使用案例如你所知並不在信息搜索領域之中，又如何在整個YouTube範圍內規定它是可靠的呢？比如娛樂活動如音樂和喜劇等，它們通常由人們的個人品味驅動，很難對其進行規定。

Kevin：對，但可以只在政治方面這麽做，比如對於所有政治類視頻都應要求其來源可靠。

Neil：我認為，即使涉足像政治如此廣泛的領域，也會有所代價。我隻提出有一需注意的事項，就是如此一來政治言論就會被限定成預先設定好的看法。我認為，特別是涉及到像政治這樣充滿活力和對社會有影響的事物時，需要有平台能傳出不同的聲音讓人們聽到。

Kevin：自紐西蘭槍擊事件以來，我們聽說了這樣的一個問題：很多平台協同合作打擊了與ISIS相關的內容，但這些平台為什麽沒有對白人至上主義或暴力右翼極端主義采取同樣的措施? 您覺得答案是什麽呢？

Neil：我想說第一，事實上說到紐西蘭槍擊案，是有倆組挑戰的。其中之一就是我們剛剛談到的一切都是關於展現權威高質量信息，而非陰謀論或有害信息。另一挑戰則與將視頻重新上傳到不同平台的速度有關。重新上傳速度是我們與其他平台緊密合作的領域之一。我們緊密合作是為了保證每一家都擁有視頻的種子，並可共同分享。

第二，更普遍地來說，在暴力極端主義和在平台上限制這些視頻方面，沒有對白人至上主義或暴力右翼極端主義采取與ISIS相同措施的原因是ISIS視頻采取了一種特定的形式。它們往往是為了宣傳和征聘目的而設計的，所以他們在視覺上和可能使用的音樂上都有其品牌和標誌。通過這些線索我們可以將其內容撤下。當然，我們是與其他平台合作來撤下其視頻的。

但在某些情況下，困難更加重重。比如在界定某些讓人反感，人們都持反對意見的言論是仇恨言論還是政治言論，很多時候是很模糊並難以判斷的。人們可能感覺它是仇恨言論，但它卻是來源於在選舉中的候選人等的政治言論。

Kevin：關於YouTube這些年來成了另類媒體形式的說法非常的多。不上YouTube的人是因為他們想要在YouTube上看到和電視上一樣的內容，而YouTube上並沒有。而上YouTube的人則是因為他們已經與博主建立了信任的關係。當Logan Paul推出一部關於地球是平的的紀錄片，或者是Shane Dawson質疑911是否發生時，人們會覺得YouTube是能找到正解的地方，或許這就是讓這一切變得難以挽回的原因。

Neil：就此我也思考了很多，我認為我們最後半小時談論的所有都與我就此事的想法相契合。我個人認為這是由於每個月YouTube的用戶訪問量達20億導致的。每個人來到YouTube都有其特定的原因。他們或是因為有最新或最好的音樂視頻發布、或是因為YouTube原創視頻、或是因為他們最喜歡的博主。還有一個很重要的原因則是信息，在過去幾年中因信息而訪問YouTube的人所佔比例不斷在增長，這也在一定程度上反映了世界上正在發生的事情。

而且，我認為人們到YouTube上尋求信息造成了我們考慮平台應負責任的方式的轉變。轉變的結果則是產品團隊正在考慮所有的解決方案，其中許多解決方案我們已在這裡討論過。這些解決方案是平台負責的一種體現，它將保證當用戶在搜索信息時，YouTube會全力地為用戶提供這些信息。但就用戶的意圖和其正尋找的信息方面，YouTube仍會將主動權放給用戶。

我認為我們在這方面已取得了很大成就，但顯然還有很多工作等著我們去完成。我們也將會一直努力下去。