昨天，我的一條微博創造了自 2010 年注冊以來的記錄：閱讀量超過 1000 萬，且還在繼續增長——然而我的微博粉絲，卻只有 1 萬人，出現這樣的情況，是因為微博的Timeline不再只是基于關注，而是結合了算法推薦的“發現流”，每一個內容都有被算法推薦進而曝光和爆發的機會，坐擁千萬粉絲大V和只有一萬粉絲的小V，都要PK內容。事實上，整個行業，算法都在扮演著日趨重要的角色。

　　內容平臺的算法經濟學

　　微博在 2017 年先是加入了發現流，內容分發邏輯發生巨大變化，正是因為看到了算法類內容平臺的強勢崛起——微博，百度、UC、騰訊、搜狐、網易都推出了信息流產品，知乎 2017 年改版首頁從基于關注的內容推薦，變為基于算法和關注的內容推薦。

　　將算法用在內容推薦上，國內的先行者是豆瓣——它在PC時代首頁就已是基于算法推薦而形成的內容流，豆瓣FM、豆瓣閱讀等產品背后的邏輯也是算法。然而，彼時深度學習技術并不成熟，豆瓣的推薦精準度一直被豆友們吐槽。近年來，隨著AI技術的成熟，算法也越來越得心應手，真正意義上實現了千人千面，比用戶更理解用戶，不斷吞噬用戶時間。

　　結合算法，精準的廣告也被不斷推薦給用戶，成了移動互聯網商業化的最佳答案，比如微博就通過信息流廣告賺得缽滿盆滿， 2017 年總營收達到77. 13 億元，同比增長76%，凈利潤則達到27. 14 億元。此外，百度、知乎等平臺也都在發力信息流廣告，算法正在帶來真金白銀。

　　當然，算法不是靈丹妙藥，它一直被業界批評缺乏必要的正向價值觀、有導致用戶閱讀視野變窄的“信息繭房效應”，容易形成信息孤島，甚至導致低俗泛濫。不過，現在看來，通過與價值觀、與人、與社交的融合，算法正在規避上述問題，甚至一定程度上成了內容業的看門狗。

　　算法成為內容平臺看門狗

　　新聞從業者一直被視作是社會的“看門狗”——守護安全，監督環境，警惕危險，現在看來算法在內容平臺上也開始扮演“看門狗”的角色：內容質量、內容審核、社區治理，算法都能幫上大忙。

　　上周末，微信屏蔽抖音的消息被傳開，不過騰訊公關總監張軍日前回應，“朋友圈一直有防刷屏機制，過了閥值就自動不可見，過凌晨 12 點自動恢復正常，屏蔽之說不存在。”跟此前新世相等誘導分享的賣課被屏蔽一樣，微信正在將算法用在平臺的治理上，事實上，公眾號內容原創識別，朋友圈關鍵字屏蔽等等功能背后，都是算法在驅動。

　　今年 1 月，微博官方賬號@微博管理員發布《關于加大力度處理熱搜榜熱門話題榜刷榜行為的公告》，對王樂樂微博等涉嫌參與刷榜的大V進行了處罰。微博宣稱其“不斷對產品本身進行算法升級并設置了以大數據識別為基礎的防刷體系。對于存在作弊特征的行為，系統都會實時進行識別和攔截。在熱搜榜中，每天約有40%的熱搜詞被系統識別為流量異常而不能上榜。”此外微博也將算法應用在內容審核等方面，相信大家對此心照不宣。

　　另一個受關注的內容平臺知乎也一直很重視社區氛圍，對社區的管理采用的是名為“瓦力”和“悟空”的AI反垃圾系統。知乎日前升級了瓦力的算法，可以實時篩查對內容創作者不友善的內容，或是對答非所問、事實錯誤、垃圾廣告導流等行為進行識別和處理。知乎站務管理賬號“知乎小管家”公布的數據是，瓦力每日可處理內容近萬條，對于舉報上來的不友善內容，0. 3 秒內就可以處理掉。

　　算法已成為行業標配，不只是內容平臺，就連電商平臺也在應用算法來推薦商品。不過，算法的價值不只是流量、時長或者變現，從一些內容平臺的實踐來看，算法可以比肉眼更加精準地識別不好的內容，為優質內容保駕護航，進而避免劣幣驅逐良幣，也一定程度規避了算法推薦的缺陷。

　　微博通過算法來確保熱搜榜的權威價值。熱搜榜和熱門話題榜能夠快速、準確反映出微博用戶對于熱點內容的關注程度和方向，對于不同角色都有其參考價值，然而一旦被“注水”這個榜單就失去了意義。正是因為此，微博要不斷升級算法，來抗擊刷榜大軍。

　　知乎也在通過算法確保社區內容品質。相對于微信的生活化和微博的大雜燴而言，品質對于“中文互聯網內容高地”知乎更重要。許多內容在知乎討論后會被以鏈接、截圖、日報等形似分享到微博微信，之前看到過一組數據，每天知乎有近 50 萬條內容被分享到站外，二次傳播瀏覽人數達到 2 億，而且許多大事件比如最近的六六京東事件、藍標員工事件，知乎的討論在事件中都是重要一環。知乎在面向大眾人群的同時，依然需要注重內容品質。過去這一保障依靠人，現在也靠算法，據官方數據來看，知乎今年 3 月的月PV達到了 230 億，差不多是去年同期的2. 3 倍。

　　在內容大爆炸的時代，優質內容反而是稀缺的，將算法應用到優質內容守護上就顯得尤為重要。而長期來看，當一套算法系統成為“看門狗”后，它就可以不斷被訓練，不斷自我學習，進而變得愈發聰明，可以在后臺 24 小時不間斷運轉，不給“壞內容”任何可乘之機，也節省了大量的人力成本，內容審核和社區管理人員將會越來越多地被算法取代。

　　算法要如何做好看門狗?

　　用算法來管理內容和社區對于業界來說，還是一個新的命題。先行者微博、知乎等平臺的做法，也給行業提供了一些思路。

　　1、人機結合，不能只靠算法。

　　1 月底，微博被相關部門約談后，將熱搜榜、熱門話題榜、微博問答等功能下線一周，經過整改后上線。微博副總裁曹增輝向界面透露，整改的核心是：

　　“引入了編輯人工干預的模式，微博會將算法挖掘作為基礎，在排序和選擇上放棄純粹算法的方式，引入編輯對違反有關法律法規的內容、社會負能量的信息、過度娛樂化的信息進行人工干預。”

　　人機結合是未來算法應用的趨勢，因為算法還沒有智能到可以全部取代人類的程度，而且算法缺乏人類才具備的價值觀。對于社區內容管理而言，也只有人機結合，才能避免誤傷優質內容和正常用戶，形成公平的治理環境，比如知乎的瓦力機器人，對于網友們舉報的不友善內容，先通過算法智能識別，再引入管理員人工核查，大大提升了處理效率和準確率，也節省了人力成本，算法也會學習用戶的舉報內容特點，進行模型分析，提升識別的準確率和覆蓋范圍。

　　2、眾包機制，用戶自治管理。

　　知乎前段時間面向 5 萬用戶內測了“有理由反對”功能，用戶可以選擇「事實錯誤」、「答非所問」、「煽動情緒」和「不解釋」等理由，知乎瓦力根據用戶信用值權重來判斷這個選擇的重要性，最終體現在對內容的分發上。而據“知乎小管家”專欄介紹，知乎用戶平均每天舉報各類違規內容約兩萬五千條，其中 2%來自作者舉報自己內容評論區的違規行為，剩下 98% 來自其他用戶看到違規行為的舉報，用戶的舉報準確度高達 95%。微博則在最近上線了一個很有意思的功能：云黑名單。當一個用戶因為熱衷于謾罵等行為被多個用戶舉報或者拉黑后，就會被加入云黑名單，此后，這個用戶的評論可能只有自己才看得到。這個做法的本質就是讓用戶來管理用戶，或者說叫做用戶自治。

 　　理論上來說，眾包機制，同樣是一種人機結合，只不過它將用戶變成了協管，引入了眾人的價值觀，同時引入算法，來形成一種中心式+去中心的多元化管理制度。長期來看，此舉可以讓用戶體會到更加民主公平的社區氛圍，也更愿意遵守和維護社區秩序，變相成為社區兼職管理員。

　　3、社區規則，奠定算法基礎。

　　微博很早就上線了《新浪微博社區公約》和一些社區規則，并一直在完善這個體系，它主要對用戶的內容發布、評論互動等等行為進行了規約，此后不論是微博管理員，還是不斷迭代的算法，在處理問題時，都要遵照這個公約，它堪稱是微博這個社區的“憲法”。知乎上的類似條款則是《知乎協議》和《知乎社區管理規定》， 2014 年知乎為了營造更好的討論環境發布了《良性討論公約》，不論是瓦力機器人還是知乎管理員，同樣是在這些約定框架下運轉的。當然，規則也應該根據社區成長，不斷迭代完善，成為社區管理的準繩。

　　4、預防預測，而非事后清理。

　　曾經，社區管理更多是在做事后處理，比如對違規內容的刪除屏蔽，對對應用戶的扣分禁言等等，不過，隨著算法在社區管理的中的應用，平臺結合大數據，已經有能力來預測一個用戶的行為，在其產生影響前就進行干預。比如當你上傳一張圖片后，微博首先就會進行相似度判斷，涉嫌違規的突破，相似度90%以上的系統直接處理，相似度50%-90%的就有人工審核;再比如一個用戶，是比較喜歡惡意攻擊的“網絡暴民”，其內容就很可能會被限流，甚至只有他自己可見。

　　在算法成為互聯網行業的顯學后，各個平臺都在應用算法。現在看來行業不應該只是關注如何用算法來獲取更多流量時長，或者提高廣告轉化率，同時也要更重視將算法應用在平臺治理上，同時結合社區眾包管理等機制，來提升算法治理的效率和效果，用算法來規避算法的缺陷。從目前各家平臺的實踐來看，大家要學的東西，還有很多，“在未來面前，我們還是個孩子”。