在Facebook上,有一些不言而喻的事實,比如社交網路的自動篩檢程式並不總是能做出正確的選擇。
在七月四日之前的幾天裡,德克薩斯一家小型出版商The Vindicator在其Facebook網頁上貼了《獨立宣言》。
本週初,Facebook演算法顯然與含有「merciless Indian savages」的第27—31段過不去,將這段話標記為仇恨言論。
這種混淆凸顯Facebook結合使用人工智慧和人類評審打擊它龐大社交網路上仇恨言論和其他濫用內容上正面臨挑戰。
The Vindicator主編Casey Stinnett寫道:「老實說,在這一段落中有相當一部分可以被認為是充滿仇恨的,」如果脫離上下文看。
Facebook一位發言人稱,每週有數百萬報導被處理,「有時我們搞錯了。」Facebook已向The Vindicator道歉,並於7月3日恢復了貼文。
Facebook以前已經多次發生刪除被普遍認為具有歷史意義或其他良性的內容。2016年,這家社交網路刪除了一項越戰標誌性照片–照片中,一名裸體女孩正在從一個凝固汽油彈攻擊現場逃離。Facebook剛開始時為自己的行為辯護,但後來承認它錯了。
Facebook近期對它平臺上政治廣告的調整也面臨類似挑戰。它因一些廣告不遵守Facebook新政治廣告標準而錯誤地刪除了它們,其中包括Walmart為Bush烘豆發佈的廣告,以及來自一個有名為Clinton牧師的教會的廣告。
Facebook發言人稱,審查過程並不完美,但他們非常謹慎並正在努力改進它。