去年，斯裡蘭卡的一名Facebook用戶發布了一條憤怒的消息。這名用戶用僧伽羅語寫道：“殺死所有穆斯林嬰兒，一個也別放過。”僧伽羅語是該國佔多數的佛教人口所使用的語言。
這條消息發布於2018年初，發布時文字是白色，背景是粉紫色。這是Facebook從2016年開始提供的一種設計，目的是鼓勵用戶更多地分享。在有其他用戶感到不妥，點擊舉報按鈕之前，這條內容已經獲得了30次點讚。舉報者選擇了“仇恨言論”選項，這是Facebook平台列出的九類令人反感的內容之一。
多年來，斯裡蘭卡的非營利性組織一直警告稱，Facebook正在加劇僧加羅人佛教徒和泰米爾人穆斯林之間的種族緊張關係，但該公司並未重視這個問題。Facebook過了6天時間才對這次仇恨言論報告作出回應。該公司對舉報者說，“感謝你的反饋”，但這些內容“並不違反我們具體的社區標準”。舉報者將這個回復發布到了Twitter。
這條內容一直都沒被刪除。去年，網上出現了一波針對穆斯林的暴力攻擊，而這條內容也是其中一部分。謠言在Facebook上流傳，聲稱穆斯林在佛教徒的食物裡放絕育藥。2018年2月底，一群暴徒襲擊了斯裡蘭卡東部小鎮Ampara一家穆斯林餐廳的老闆。他僥幸逃學生，但在接下來的一周時間裡，在中等規模城市Kandy發生了更多騷亂，導致了兩人死亡。隨後政府介入采取措施，其中包括要求Facebook下線3天。
下線的要求終於引起了Facebook的關注。該公司指派曾在奧巴馬政府任職的律師傑西卡·萊恩萬德（Jessica Leinwand）調查問題。她的結論是：Facebook需要重新思考對假信息的縱容態度。在斯裡蘭卡的騷亂發生之前，該公司的政策對假新聞和假信息持容忍態度。萊恩萬德總結說：“讓一家私營公司判斷信息是否屬實真的令人擔憂。”
然而，當萊恩萬德開始調查斯裡蘭卡發生的事件時，她意識到，這項政策需要引起警惕。從那年夏天開始，Facebook開始在一些高風險國家，例如斯裡蘭卡，刪除某些內容，但前提是這些帖子被當地的非營利組織報導，並可能導致“迫在眉睫的暴力活動”。當6月份關於“絕育藥”的流言再次出現時，Facebook的新政策開始起效果。
萊恩萬德表示，她個人都對此感到滿意，這也證明Facebook有能力監管其平台。
但情況是否真的如此？
大約一年前媒體曝料，Facebook允許數千萬用戶的個人數據被分享給谘詢公司劍橋分析，後者參與了美國總統川普2016年的競選活動。這個消息引發了美國司法部對Facebook數據分享行為的調查，調查隨後甚至還引入了大陪審團的參與。
侵犯隱私信息並不像種族暴力那麽嚴重，但這起事件表明，公眾對Facebook巨大影響力的認知發生了明顯轉變。然而Facebook仍在遵循慣用模式：該公司知道問題存在，但在過去多年中一直視而不見，在被曝光後則發表不痛不癢的說辭，想要大事化小。
例如，Facebook CEO祖克柏在去年4月出席國會聽證會時不斷重複：“我們正從更廣泛的視角來看待我們的責任。”
他於3月初發表了長達3000字的博文，表達了類似看法，承諾Facebook將專注於通信隱私，以解決受信任問題，同時承認該公司的應用中仍然存在“可怕的事件，例如兒童被侵犯，恐怖主義和敲詐勒索”。
如果Facebook想要阻止這些事情，那麽就必須以更好的方式與27億用戶來打交道。這些用戶生產的內容促進了Facebook廣告引擎的發展，給該公司帶來了豐厚的利潤。Facebook業務依賴於對這些內容進行分析，向用戶展示他們可能喜歡的其他內容。這種機制帶來了副作用，導致假新聞和極端主義被放大。
Facebook讓萊恩萬德和其他高管接受了《彭博商業周刊》的採訪，希望證明該公司正在取得進展。
27頁“社區標準”
然而不幸的是，他們介紹的問題報告系統非常依靠低工資的人工管理員和軟體，處理速度緩慢，資源不足。Facebook有能力付更多錢給這些管理員，或招募更多管理員，或是對用戶發布的內容作出更嚴格的規定。然而，這樣做都會不利於該公司的利潤和營收。因此，Facebook選擇采取被動姿態，想要在問題出現後再制定規則。這些規則確實帶來了幫助，但批評人士直言，Facebook需要更加積極主動。
Facebook的早期投資人羅傑·麥克奈米（Roger McNamee）指出：“當問題出現在系統中之後再嘗試發現和修複，這樣的理念存在缺陷。從數學上來說，這是不可能做到的。”
麥克奈米目前是發聲最激烈的Facebook批評者之一。他近期出版了新書《Zucked》。
書中認為，由於Facebook提供精準廣告的能力取決於對大量用戶數據的收集和處理，因此該公司缺乏天然的動力去限制有問題內容。他表示：“他們看待這些的方式實際上只是為了避免修複商業模式中的固有問題。”
目前，用來管理Facebook的是只有27頁紙的“社區標準”。這個標準於2018年首次公布，其中的規則包括，除非用於科學和教育目的，否則不允許出現“製作爆炸物”的教學內容。此外，“可以看見屁眼”和“全裸臀部特寫”的照片也是被禁止，除非這些圖片用於公眾人物。在這種情況下，作為評論，這樣的圖片是被允許的。
個別來看，這些標準很是荒謬可笑。然而Facebook高管們表示，他們正努力嘗試以可擴展的方式，系統性地解決網站上最糟糕的問題。這意味著，這些規則需要有足夠的普適性，適用於全球任何地方；此外也要足夠明確，讓Facebook在菲律賓、愛爾蘭和其他遠程內容審核中心的低薪員工可以在幾秒鐘內判斷，如何處理被標記的內容。
與此同時，對於在Facebook從事這方面工作的1.5萬名全職和外包員工，他們的勞動條件也引起了爭議。
今年2月，美國科技網站The Verge報導稱，美國的管理員每年收入只有2.88萬美元，同時被頻繁要求查看含有暴力、色情和仇恨言論的圖像和視頻。有些人因此患上了創傷後應激障礙。
Facebook回應稱，正在對外包勞務提供商進行審核，與它們保持更密切的聯繫，以確保更好的勞動條件標準，支付最低工資。
祖克柏表示，Facebook用來識別裸體和恐怖主義內容的人工智能算法最終能過濾大部分此類內容。然而目前，即使最複雜的人工智能軟體也無法很好處理需要聯繫上下文進行判斷的內容類別。
Facebook全球政策管理負責人莫妮卡·比科特（Monica Bickert）認為：“仇恨言論就是此類內容之一。霸凌和騷擾也是如此。”
在接受採訪當天，比科特正在處理Facebook對前一天馬裡蘭州安納波利斯Capital Gazette大規模槍擊案的回應。在這起槍擊案發生後，比科特指示內容審核員關注讚揚槍手的內容，並阻止炒作者以槍手或受害者名義注冊虛假帳號。這起槍擊案導致了5人死亡。
隨後，她的團隊下線了槍手的帳號，並將受害者個人頁面轉換為Facebook所謂的“紀念账號”。這些帳號看起來與Facebook普通頁面沒有差別，但在逝者姓名上方添加了“銘記”一詞。
類似這樣的危機每周都在發生。
比科特表示：“不僅僅是槍擊案，還可能是飛機墜毀。我們要等待調查清楚飛機上有什麽人，以及事故是否是恐怖襲擊。可能會發生抗議活動，也可能有人受傷。”
這些算是比較容易處理的情況。在這些事件中，對與錯的界線是清晰的，並且Facebook已經有現成的應對方案。比科特用自己的筆電電腦展示了Facebook社區標準團隊會議上用到的一張幻燈片。
該團隊每周四上午會碰頭，制定新規則。多達80名員工會在線上線下參與討論。
幻燈片顯示，去年某個周四，關於女用戶在創建的#Metoo內容中實名曝光騷擾者的情況，該團隊討論了應該如何應對。如果這些內容不屬實，那麽可以被解釋為對無辜者的騷擾。在同一次會議上，團隊還評估了出現病毒式傳播的一類活動，例如“避孕套鼻孔挑戰”。
在這種活動中，挑戰者從鼻孔吸入潤滑過的避孕套，隨後嘗試從嘴裡拉出來。類似的挑戰還有十幾個，例如智利辣椒挑戰、Tide Pod吃洗衣劑挑戰等等。年輕人會想要這樣奪人眼球的嘗試，吸引他人的關注。然而，如果這樣的挑戰會造成人身傷害，Facebook是否應該主動阻止？
行動太慢？
去年12月，經過幾個月討論，Facebook加入了新規則。在#MeToo內容中出現的批評是可以的，只要沒有鼓勵報復。挑戰同樣沒問題，只要挑戰活動不鼓勵人身傷害。然而，“避孕套鼻孔挑戰”似乎處於灰色地帶。比科特說：“對這些問題的判斷並不是非黑即白。”
在國會證詞和其他地方，關於對平台內容政策的批評，Facebook準備了一整套回應說辭。如果被問到某些已被社區標準禁止的網站內容，Facebook高管會再次向公眾保證，這樣的內容是“不被允許的”，或者是“沒有容身之處的”。
如果規則尚未制定，那麽Facebook通常會解釋說，正著手解決這個問題，該公司之前“動作太慢”沒有意識到問題，目前正在承擔起自身的責任。
Facebook多次表示，此前“行動太慢”，未能注意到2016年俄羅斯操縱美國大選，緬甸的種族滅絕，以及斯裡蘭卡的種族暴力。然而，“太慢”也是一種委婉的說法，真實的情況是Facebook有意忽視問題，直到有重要人物開始發表意見。
科技行業高管、社會活動家艾琳·凱莉（Eileen Carey）表示：“他們不想為任何事情承擔責任。”自2013年以來，她一直在記錄藥販子在網上發布違禁藥物照片的情況，其中某些藥物被標記為“奧施康定”或“維柯丁”。許多這類內容中都包含電話號碼和地址，感興趣的用戶可以選擇當面交易或郵遞。實際上，這些是非法阿片類藥物的分類廣告。
凱莉對這方面的關注始於她在一家谘詢公司任職期間，這家谘詢公司幫助普渡製藥打擊假藥。大部分科技公司，包括阿里巴巴、Craigslist和eBay在凱莉發出警示後，很快就同意刪除這些圖片，但Facebook及其旗下Instagram卻是例外。
與祖克柏類似，凱莉來自紐約州Dobbs Ferry，居住在舊金山灣區。她有時會和Facebook高管一起參加派對。在派對上，她對這些問題的抱怨也常常讓氣氛變得尷尬。
她說：“自從開始嘗試清理網上的假藥以來，我在參加派對時就很尷尬。”從2013年開始，凱莉就一直在關注這方面問題，她每天花幾分鐘時間，搜索並報告在Facebook和Instagram出售的藥物。
通常情況下，她會獲得不痛不癢的自動回復。某些時候，她甚至完全得不到回復。當時，科技公司正在各類會議和研究報告中表態，支持對匿名暗網上的藥物銷售進行更嚴厲地打擊。
然而在現實中，凱莉注意到，大部分非法藥物購買都發生在普通網絡、社交媒體和其他線上平台。她說：“有人因此喪命，而Facebook根本不關心。”
2018年，凱莉開始發布Twitter消息，向記者和Facebook員工進行投訴。
4月份，負責人工智能軟體訓練的Facebook副總裁蓋伊·羅森（Guy Rosen）向她發消息，希望她能提供所說內容的更多證據。
凱莉在發給羅森的郵件中寫道：“在Instagram上搜索#芬太尼和#oxys，都能看到許多藥品的照片，這些帳戶通常都來自藥販子。”她還發送了一些賣藥的Instagram內容。“我早些時候已經報告過這些情況。問題在#opiates（鴉片劑）的搜索中仍然存在，搜索結果多達4.3萬個。”
羅森回復她：“太好了，真是幫了大忙。”Facebook最終於4月份在Instagram上移除了可搜索的標簽。就在一周前，美國食品藥品管理局（FDA）局長斯科特·戈特利布（Scott Gottlieb）對Facebook表示了批評。而一天前，祖克柏參加了美國國會的聽證會。
自那時以來，凱莉就一直在關注來自肯塔基州、俄亥俄州和西弗吉尼亞的新聞報導。今年，這些地方因為阿片類藥物濫用導致死亡的人數有所下降。一些文章推測，原因可能是社區治療中心或心理健康輔導資源的增加，但凱莉有著不同看法：“唯一真正改變的就是搜索標簽。”
即便如此，Facebook上賣藥的問題依然存在。去年9月，《華盛頓郵報》將Instagram描述成為“一個推廣非法藥物的大市場”。作為回應，比科特發表一篇博文，解釋稱Facebook已經屏蔽了數百個相關標簽和內容，並且正在開發計算機圖像技術，更好地識別賣藥的內容。她還使用了意料之中的一句話：“在我們的服務中，這些內容沒有存身之地。”
機器審核員
作為CEO、董事長、創始人和控股股東，祖克柏常常面臨的問題在於，他是否配得上掌握對公司產品近乎絕對的控制權。他強烈反對這樣的質疑，唯一的例外是在內容管理領域。
他於11月寫道：“我越來越相信，Facebook不應該在自由表達和安全方面隻依靠自己做出這麽多重要決定。”據他介紹，該公司將建立“獨立機構”，以“透明和有約束力”的方式，就Facebook上應該提供哪些內容的爭論做出最終決定。他表示，提議中的小組將包括40名“不同專業的專家”。“正如董事會對我們的股東負責一樣，這個機構將隻專注於我們的社區”。
與此同時，祖克柏還計劃將盡可能多的內容管理工作轉移給計算機。
比科特表示，內容審核員正在對機器進行訓練。“審核員會說，‘機器，這件事你判斷對了。這是仇恨言論。’或者‘不對，機器，這次你弄錯了。這不是仇恨言論。’”Facebook表示，在被管理員下線的內容中，有52%之前就已經被算法標記出來。此外，該公司也在嘗試用人工智能刪除與賣藥相關的內容。
另一種讓渡責任的方式是鼓勵用戶嘗試該公司最新的加密消息服務。在這種設計下，就連Facebook也看不到用戶在說什麽。祖克柏在3月6日的部落格中寫道：“我相信，一個注重隱私的交流平台將比今天的開放平台更重要。”
一些人認為，這是劍橋分析醜聞發生後，Facebook批評者的勝利。然而就連祖克柏也承認，這只是一種權衡的策略。這種轉變可能會讓恐怖分子、毒販和狂熱宣傳者更加瘋狂。
Facebook旗下的WhatsApp已經實現加密通信。然而在印度，WhatsApp上傳播的錯誤信息導致村莊對涉嫌綁架兒童的人發生恐慌，很多人對不速之客投擲石塊或處以私刑。WhatsApp無法刪除這些內容，只能減少消息送達人數的上限。根據BBC的報導，印度隨後又發生了另一起“WhatsApp私刑”事件。
公關全世界
與此同時，Facebook的管理者們一直嘗試安撫全世界。去年9月，比科特前往斯裡蘭卡，拜訪了60多個公民社會團體，聽取他們對假帳號等問題的關切。討論的問題有很多。
斯裡蘭卡政策替代研究中心高級研究員桑加納·哈托圖瓦（Sanjana Hattotuwa）表示：“他們的社區標準非常具體，例如什麽樣的內容會帶來迫在眉睫的威脅。”然而，“其中某些內容的關鍵在於，在更長的一段時間裡，內容會變得激進化。”
近期，哈托圖瓦的組織在一篇部落格文章中警告稱，Facebook與該國政府關係過於密切，雙方交換禮物，並且獲得了一些官員的支持。這些官員也被指控出於政治目的傳播虛假信息。博文內還引用了一名官員的Twitter消息，內容是Facebook地區公共政策總監安克伊·達斯（Ankhi Das）向斯裡蘭卡前總統馬欣達·拉賈帕克薩（Mahinda Rajapaksa）贈送當地藝術家的大型畫作。
一些人指責，拉賈帕克薩的支持者策劃了反穆斯林的騷亂。Facebook則表示，這份禮物是“公共藝術”，沒有現金價值，此外該公司也向斯裡蘭卡的其他領導人贈送了畫作。
哈托圖瓦、凱莉和全球各地批評者最關心的點在於，Facebook更感興趣的是修複人們對問題的看法，而不是解決問題本身。化名為Alex的受訪者近期獲得了Facebook倫敦的一份工作邀請，這份工作專注於Facebook的政策計劃。
由於擔心遭到報復，他要求不使用真名。他曾在一家大型科技公司從事政府事務活動。在幾十場會議中的某一場，他曾與Facebook全球政策項目負責人維多利亞·格蘭德（Victoria Grand）進行過交談。
根據他的回憶，由於Facebook發生的一系列醜聞，他曾問格蘭德這個職位的本質：“你需要有人來實現持續的改變，還只是改變渠道？”格蘭德告訴他，從來沒有候選人問過這個問題。短暫停頓後，她繼續回答這個問題。
Alex表示，格蘭德當時的說法是：“聽著，我認為每個人都期待理想主義，並承諾要做的是前者。但如果我們只是疲於應對負面信息，那麽沒有人會去關心我們做的所有好事。”不過Facebook表示，根據格蘭德的回憶，“這場對話的內容完全不同”。Alex拒絕了這份工作。（翻譯：陳樺）
香港九龍灣馬來街興發大廈15樓D室