扎克伯格、張一鳴、宿華都公開道歉，AI算法不靈了嗎？

2018-04-13 09:41:32來源：AI科技大本營關鍵詞：AI 扎克伯格張一鳴閱讀量：26771

導讀：雖然三家公司的 CEO 都已經公開道過歉，但這些風波讓我們更加理解 AI 是什么，它的能力邊界又在哪兒。

　　【中國智能制造網市場分析】中國大的兩個短視頻產品快手和抖音，世界大的社交網絡 Facebook，近都來到了輿論風波的正中心。

　　憑借強大的推薦算法和用戶貢獻內容(UGC)，這三家公司積累了海量用戶，但也都遇到了內容審核的難題。

　　今日頭條旗下的內涵段子被監管部門評價為“導向不正”。快手、抖音、火山小視頻的審核機制沒能攔下由用戶上傳并被監管部門認定的“低俗內容”。而 Facebook 整個 2017 年都在跟假新聞做斗爭，近還因為 8700 萬用戶隱私數據被泄露 CEO 扎克伯格要到美國國會參加專門的聽證會。

　　雖然三家公司的 CEO 都已經公開道過歉，但這些風波讓我們更加理解 AI 是什么，它的能力邊界又在哪兒。

　　AI 包含人的價值取向甚至是偏見

　　今年 3 月，央視報道過快手平臺上存在大量未成年媽媽等低俗內容，以及今日頭條的廣告問題之后，兩家公司的 CEO 宿華和張一鳴相繼發布道歉信。

　　昨日晚間，今日頭條 CEO 張一鳴還在道歉信中宣布關停內涵段子 App，承諾將“正確的價值觀融入技術和產品”，同時將運營審核團隊規模從現在的 6000 人擴大到 10000 人。

　　快手不久前也啟動了內容審核員的大規模招聘，一口氣就要 3000 名審核編輯，招聘條件是團員和黨員優先。

　　新招募的這些人員，除了在運營層面給公司大幅增加開支之外，還意味著快手、今日頭條、抖音等社區型產品在 UGC 內容審核上還不能完全依賴它們所擅長的 AI 算法。“人工審核” 仍然占據非常重要的地位。

　　對于 AI 在 UGC 社區內容審核中所扮演的角色，快手 CEO 宿華在道歉信中表達的觀點更為直接：

　　(快手)社區運行用到的算法是有價值觀的，因為算法的背后是人，算法的價值觀就是人的價值觀，算法的缺陷是價值觀上的缺陷。

　　換句話說，快手的推薦算法包含并反映出了這家公司在短視頻內容上的價值判斷和平臺偏好。內涵段子、抖音等頭條系的 App 也是同理。

　　AI 能快速吸引用戶，也讓平臺更容易被監管

　　依靠能夠揣摩用戶喜好的推薦算法，快手自轉型短視頻以來，累計吸引了超過 7 億的注冊用戶，日活用戶規模達到 1.2 億。而比今日頭條更早上線的內涵段子，在早期成了主要的下載來源。抖音從去年快速崛起之后，新的日活數據已經增長到 9000 萬。

　　成立于 2004 年的 Facebook，雖然總用戶增長放緩，但月度活躍用戶已經漲到了 20 億，相當于互聯網用戶的 50%。

　　隨著海量用戶的加入，這些社交平臺上的內容也開始變得五花八門。

　　快手上各種驚奇搞怪的表演，在早期給快手短視頻貼上了 low 的標簽。而抖音在強運營策略的主導下，依靠海草舞、各種運鏡、旅游風光等內容，形成了自己的風格，同時也吸引到更多的內容貢獻者。Facebook 用戶的時間線上，則充斥著真真假假的時下新聞。

　　由于推薦算法 7*24 不間斷運行，用戶很容易因為“刷上癮”而忘記時間。

　　就國內而言，在國家廣電總局眼中，快手、抖音這些“全民級”內容平臺的價值判斷和導向是不符合要求的，所以才有了這次針對短視頻和新聞資訊類產品的集中整頓。

　　在道歉信中，張一鳴將此次被整頓的深層原因歸結為“‘四個意識’淡薄、社會主義核心價值觀教育缺失、輿論導向存在偏差。”宿華則承諾要“重整社區運行規則，將正確的價值觀貫穿到算法推薦的所有邏輯中”。

　　但從技術層面看，目前的 AI 算法還很難理解“四個意識”和社會主義核心價值觀的真正含義。社區運行規則和內容審核策略的調整還是要借助相當多的人力。

　　以 Google 為例，基于機器學習的在線視頻內容云端識別 API 去年 3 月才在 Google Cloud 正式上線。而國內云服務公司阿里云、騰訊云、百度云等對視頻內容的識別、多維度分析和解讀服務也才推出不久。

　　從技術成熟度來說，包含音頻的視頻內容分析和自動審核即便在人工智能逐步落地的今天，仍然有很多挑戰。更不用說監管層面對短視頻平臺的種種要求。

　　內容審核之外，更難的是持續讓用戶信任

　　在內容審核上，月活用戶數超過 20 億的 Facebook 面臨的挑戰更加嚴峻。

　　首先是不同國家的語言和文化差異，一則帶有煽動性的仇恨言論很可能成為審核機制的漏網之魚，在社交網絡里肆意傳播。

　　按照目前 AI 的智力水平，要解決這個問題，更多還是要考人工來審核。目前 Facebook 擁有一個 15000 人規模的運營審核團隊，預計今年年底增加至 20000 人。

　　在昨天舉行的美國國會聽證會上，Facebook 創始人扎克伯格回答問題時表示，利用機器學習工具來自動監測和處理仇恨言論要 5-10 年后才會變成現實。

　　這無疑是對 AI 在硅谷乃至整個科技界的莫大沖擊。與此同時，也讓我們更加清楚了解了人工智能現階段的能力邊界。

　　而在商業模式層面，Facebook 對用戶完全免費，依靠廣告收入支持平臺和公司運營。抖音和快手也是如此。

　　這意味著此類免費產品的用戶，或多或少總有一些個人數據被利用了。

　　在 2010 年的一次網絡討論中，一位 ID 為 blue_beetle 的用戶道出了真相：

　　If you are not paying for it， you're not the customer； you're the product being sold.

　　正是因為 Facebook 沒有做好隱私數據的保密工作，才招致了用戶和公眾的不信任。這對一個社交平臺來說，是直接的打擊：當平臺上的好友都離開，用戶本身也有極高的可能性流失掉。

　　為了解決隱私保護和商業化之間的矛盾，扎克伯格表示會始終提供一個免費版的 Facebook。Facebook 的 COO 在接受采訪時還說，如果用戶不希望自己的數據作為投放廣告的依據，可以選擇自愿退出，但要向 Facebook 支付一筆費用。