硅谷巨頭如何自我監(jiān)管？

?

2018-8-15 青野云麓

?

文/EW RA| Zoe Duan

來源：東西文娛

導(dǎo)讀

今年，視頻網(wǎng)站和社交網(wǎng)站內(nèi)容合規(guī)問題頻頻爆發(fā)，互聯(lián)網(wǎng)整治收緊，監(jiān)管潮席卷文娛、廣告、游戲各個領(lǐng)域，海外公司中，F(xiàn)acebook先后被通俄門、假新聞、謀殺和自殺視頻、劍橋分析公司數(shù)據(jù)丑聞沖到了風(fēng)口浪尖； YouTube也因虐童視頻、學(xué)術(shù)造假廣告、UGC網(wǎng)紅內(nèi)容創(chuàng)作者行為失當(dāng)?shù)葍?nèi)容問題纏身。

雖然在內(nèi)容監(jiān)管和自查方面，海外互聯(lián)網(wǎng)內(nèi)容公司和社交網(wǎng)站的表現(xiàn)并不足以被稱作榜樣，但也正如Facebook近期的聲明中所稱——“危機(jī)平臺內(nèi)容的對手是背靠資本的頑固派，他們可能永不罷休，甚至不斷改變策略，這是一場軍備競賽，平臺要做的就是持續(xù)進(jìn)化”，從監(jiān)管策略改進(jìn)和技術(shù)完善的角度上說，以Facebook為代表的社交和直播、以YouTube 為代表的視頻與UGC內(nèi)容平臺、還有Instagram為代表的短視頻領(lǐng)域，也已積累出一些既定的方法，對問題的預(yù)見和更新策略布局或有借鑒意義。

綜合來看，海外網(wǎng)站的爭議內(nèi)容的形態(tài)和問題可以概括為以下方面：呈現(xiàn)形式要以文字帖、視頻、短視頻、直播、游戲、廣告為主；涉及的具體違規(guī)問題包含——用戶隱私侵犯和數(shù)據(jù)泄露，不正當(dāng)定向廣告，涉及暴力、色情、恐怖主義、異端宗教、虐童、陰謀論、種族歧視、性別歧視等不良內(nèi)容，虛假新聞，涉嫌詐騙和數(shù)據(jù)挖掘的釣魚網(wǎng)站。根據(jù)平臺產(chǎn)品組成和內(nèi)容屬性，也呈現(xiàn)了不同側(cè)重的內(nèi)容監(jiān)管機(jī)制。?

社交和直播自我監(jiān)管-Facebook

Facebook 與Instagram系統(tǒng)保持協(xié)同連接的關(guān)系， 一般適用于Facebook的內(nèi)容監(jiān)測和審查功能也同樣適用于Instagram，同時據(jù)公司相關(guān)人士稱，F(xiàn)acebook的平臺安全維護(hù)團(tuán)隊中有部分人員專門負(fù)責(zé)Instagram事務(wù)，因此連同兩者談Facebook整體的內(nèi)容監(jiān)管機(jī)制

1、細(xì)化社區(qū)準(zhǔn)則 精準(zhǔn)定義違規(guī)內(nèi)容

Facebook的社區(qū)準(zhǔn)則主要職能是界定違規(guī)內(nèi)容，過去，社區(qū)準(zhǔn)則中的違規(guī)內(nèi)容定義較為模糊，反饋稱容易混淆，數(shù)據(jù)泄露丑聞爆發(fā)后不久，F(xiàn)acebook發(fā)布27頁的更新版準(zhǔn)則，圍繞“暴力與犯罪”、“安全”、“侮辱性內(nèi)容”、“信譽真實性”、“知識產(chǎn)權(quán)”“內(nèi)容相關(guān)的請求”六個大類，有22條詳細(xì)規(guī)定，違規(guī)內(nèi)容和賬號將被平臺刪除或封停。

社區(qū)準(zhǔn)則具體到如“不可發(fā)布詆毀受害者的言論”或“不可發(fā)布有辱他人外貌、人格、身體的描述，或?qū)ζ溥M(jìn)行排名”，充分參考平臺過去發(fā)生爭議內(nèi)容，并與準(zhǔn)則的具體化實現(xiàn)強(qiáng)關(guān)聯(lián)。

Facebook平臺內(nèi)容細(xì)化準(zhǔn)則的目的，一在于詳細(xì)界定細(xì)微的內(nèi)容問題，二在于鼓勵用戶、各界專家對平臺反饋，幫助平臺不斷完善平臺的指導(dǎo)方針，在內(nèi)容過濾和撤除時更有理可依。

經(jīng)過最新一輪的更新，除了發(fā)布社區(qū)準(zhǔn)則之外，內(nèi)容發(fā)布者還有了申訴的機(jī)會。多年來，F(xiàn)acebook也誤判了許多正規(guī)內(nèi)容，例如撤下經(jīng)典雕像、越南戰(zhàn)爭中逃跑兒童等無傷大雅的照片； 如今被錯判的申訴會在24小時內(nèi)被復(fù)審，據(jù)稱這一政策目前只針對部分含有裸露、色情、仇恨言論、暴力圖像展開，并仍在不斷延伸覆蓋的類型。

2、歐洲通用數(shù)據(jù)保護(hù)條例（GDPR）下的自我監(jiān)督

2018年5月，歐洲通用數(shù)據(jù)保護(hù)條例（GDPR）正式生效，而在用戶數(shù)據(jù)泄露風(fēng)波中首當(dāng)其沖的Facebook決定——將把GDPR條例衍生之其他服務(wù)覆蓋的國家和地區(qū)，監(jiān)督Instagram、Oculus、WhatsApp對GDPR的遵守，并就“透明度”、“控制”、“責(zé)任”三大方面做出承諾，在信息透明度上強(qiáng)化產(chǎn)品內(nèi)的提醒和用戶教育宣傳，在用戶控制上簡化了用戶設(shè)定信息權(quán)限的流程，并提供更多賬戶安全自查的提醒； 同時， Facebook承諾定期更新合規(guī)計劃，與世界各地的監(jiān)管機(jī)構(gòu)、司法機(jī)構(gòu)、專家學(xué)者會面，以尋求反饋。

6月，F(xiàn)acebook在投資者的壓力影響下，宣布加強(qiáng)管理層管理，提高公司審計委員會權(quán)利。

Facebook審計委員會主要負(fù)責(zé)監(jiān)控Facebook的社會影響、隱私保護(hù)措施和網(wǎng)絡(luò)安全風(fēng)險，目前該委員會由前白宮辦公廳主任厄斯金·鮑爾斯擔(dān)任主席。

經(jīng)歷劍橋數(shù)據(jù)風(fēng)波后，委員會增加了三項職責(zé)，以至少每年一次的頻率對Facebook可能危害公共利益和安全的服務(wù)、隱私項目、網(wǎng)絡(luò)安全風(fēng)險三大方面進(jìn)行評估，以此為投資者就“誰對監(jiān)管隱私、社會影響、網(wǎng)絡(luò)安全和合規(guī)負(fù)最終責(zé)任”提供更清晰的認(rèn)識。

3、“透明度舉報”平臺維護(hù)版權(quán)

侵權(quán)舉報和檢測工具“信息透明度舉報”管理團(tuán)隊將人工刪除涉及侵犯內(nèi)容版權(quán)（書籍、音樂、影視、藝術(shù)、文字、圖像）、商標(biāo)和涉嫌假冒偽劣的內(nèi)容，用戶可通過Facebook和Instagram的IP幫助中心填寫在線投訴表格，投訴交由Facebook的IP運營團(tuán)隊在一天之內(nèi)受理，重復(fù)侵權(quán)的賬號將被關(guān)停。

針對版權(quán)的工具類產(chǎn)品還有“版權(quán)管理員”（Rights Manager）以及 “商務(wù)&廣告IP工具”（Commerce& Ads IP Tool）， 前者針對包括直播在內(nèi)的視頻內(nèi)容進(jìn)行相似性比對，后者營銷內(nèi)容篩選分類，幫助版權(quán)所有者舉報偽商標(biāo)和侵權(quán)的內(nèi)容。

4、 AI與算法結(jié)合人工審查

在國會聽證會上，扎克伯格在一小時內(nèi)提及AI三十余次，并堅稱AI是平臺內(nèi)容監(jiān)管的答案“未來的五到十年，AI將成為世界上最大的社交網(wǎng)絡(luò)的捍衛(wèi)者，在全球范圍內(nèi)解決其最緊迫的危機(jī)，同時也幫助公司回答有關(guān)審查、公平和人類無節(jié)制等棘手問題。”

基于人工智能研究項目FAIR，F(xiàn)acebook官方稱， 就AI在Facebook內(nèi)容監(jiān)管上的應(yīng)用而言，圖像內(nèi)容審查方面，其物體識別技術(shù)（Object recognition）以含有數(shù)十億參數(shù)和數(shù)百萬案例訓(xùn)練的神經(jīng)網(wǎng)絡(luò)為基礎(chǔ)。

Facebook的產(chǎn)品經(jīng)理表示，涉及用戶安全的內(nèi)容（如帶有自殺、自殘傾向的視頻），F(xiàn)acebook的AI的監(jiān)測基于過去相關(guān)的直播和帖子收集數(shù)據(jù)，審查中被識別并標(biāo)記的圖像，F(xiàn)acebook除了為用戶提供疏導(dǎo)視頻外，還會提供人工心理疏導(dǎo)服務(wù)邀請，而在物體識別技術(shù)上的每一次進(jìn)步，都將意味Facebook Accessibility團(tuán)隊將技術(shù)的適用范圍擴(kuò)大”；

在文字審查方面，有“DeepText”（深度文本)引擎，據(jù)稱“能夠以近乎人類的精確度理解每秒數(shù)千篇文章的文本內(nèi)容，跨越20多種語言”，此前Deeptext除用于內(nèi)容個性化推薦外，還用于自動清除垃圾郵件，幫助公眾人物將數(shù)百萬條評論進(jìn)行分類，以查看最相關(guān)的評論，自動識別銷售文章，提取相關(guān)信息，識別和顯示用戶可能感興趣的內(nèi)容。

但也有評論稱，盡管Facebook的AI技術(shù)取得一定成績，但與目前AI技術(shù)的整體發(fā)展一樣，都面臨著三大難題：一、文字識別容易，語義理解任重道遠(yuǎn)，對于虛假新聞監(jiān)測來說，聯(lián)系具體社會語境更是內(nèi)容鑒別關(guān)鍵； 二、這是一場與資本豐厚的對手之間的軍備競賽，AI也不可避免的會在未來被用于制造出有目標(biāo)性、被優(yōu)化的虛假內(nèi)容； 三、視頻內(nèi)容檢測更為不易，建立可以捕捉虛假影像的系統(tǒng)難度巨大。

因此鑒于AI技術(shù)的局限性， Facebook聘請了一萬五千名人工審查員配合監(jiān)測和刪除爭議內(nèi)容，在之前的分析中我們也提到，扎克伯克宣布于今年年底前新增五千人，輔助內(nèi)容篩查。

Facebook此前已有人工智能研究項目（FAIR），并也持續(xù)邀請在機(jī)器學(xué)習(xí)、醫(yī)療保健、游戲、對話類介質(zhì)算法開發(fā)方面頗具經(jīng)驗的人才，對實驗室進(jìn)行管理，同時和麥吉爾大學(xué)，蒙特利爾大學(xué)等多所高校保持聯(lián)合開發(fā)的密切關(guān)系，今年7月，F(xiàn)AIR又傳出多位教授加盟的消息，目前在全球Facebook 已有7所AI研究實驗室。

UGC如何自我監(jiān)管-YouTube

對于YouTube來說，UGC視頻內(nèi)容構(gòu)成了平臺內(nèi)容的絕大部分，這也間接說明，面對內(nèi)容把控，YouTube的監(jiān)管總體要比其他網(wǎng)站難度更大，（既從視頻內(nèi)容審查的難度和工作量上說，又從UGC名人可能引發(fā)的負(fù)面連鎖效應(yīng)上考慮）。

1、 YouTube社區(qū)準(zhǔn)則

在YouTube開啟UGC內(nèi)容時代后不久，美國頒布了兩項針對UGC內(nèi)容發(fā)布的法案——千禧年數(shù)字版權(quán)法（DCMA）和《通行內(nèi)容端正法案（第230節(jié)》（CDA），使平臺圍繞版權(quán)進(jìn)行了一次“大清洗”。

自2008年起，YouTube 針對平臺內(nèi)容政策作出了一次巨大調(diào)整，對違反社群準(zhǔn)則的行為明確制定了“三振出局”（非版權(quán)相關(guān)的）的規(guī)則。首次違反的用戶將有6個月的觀察期使違規(guī)記錄注銷，平臺在兩年后設(shè)定申訴流程，自認(rèn)為被誤判的用戶可以要求復(fù)審，由此，YouTube正式確立了自身作為“內(nèi)容適當(dāng)性”仲裁者的角色。

與Facebook相似， 目前YouTube對違規(guī)內(nèi)容的界定主要包括裸露或色情內(nèi)容、危害性和危險內(nèi)容、宣揚仇恨的內(nèi)容、暴力或過度寫實性內(nèi)容、騷擾和網(wǎng)路霸凌、誤導(dǎo)性詐騙內(nèi)容、隱私侵犯內(nèi)容、侵權(quán)內(nèi)容、冒充他人、危及未成年人安全的內(nèi)容。

2．持續(xù)提高與UGC內(nèi)容創(chuàng)作者合作的門檻（Demonitization Policy）

從年初的YouTube網(wǎng)紅發(fā)布日本自殺森林尸體視頻，到屢次出現(xiàn)的虐童和暴力相關(guān)自頻道爭議，YouTube與UGC內(nèi)容創(chuàng)作者的的合作伙伴計劃（Partner Program）也提高了門檻，篩除了較新、規(guī)模較小的內(nèi)容創(chuàng)作者。

自2月起，只有在過去12個月內(nèi)擁有至少1000名訂閱者和4000小時觀看時長的UGC頻道才有貨幣化的可能，此外YouTube對于接受廣告贊助UGC內(nèi)容限制也變得更嚴(yán)格，即使?jié)M足了相應(yīng)的門檻，過度植入廣告的內(nèi)容創(chuàng)作者獲得的收入也較過去減少。

3、AI、算法與人工審核 （Google）

依附于谷歌的YouTube以基于深度學(xué)習(xí)技術(shù)的Google Brain作為支持，Google Brian擁有一個收集用戶信息（如觀看歷史和用戶反饋）的神經(jīng)網(wǎng)絡(luò)， 以及一個用于對所顯示部分視頻進(jìn)行排列的神經(jīng)網(wǎng)絡(luò)，通過引入機(jī)器學(xué)習(xí)工具，自動標(biāo)記暴力極端主義視頻，并將違規(guī)內(nèi)容報告給人工審查員進(jìn)行驗證。

YouTube的內(nèi)容審查系統(tǒng)名為“Content ID”，會監(jiān)測并直接下架涉及版權(quán)、暴力等違規(guī)內(nèi)容。據(jù)稱，AI內(nèi)容監(jiān)測也獲得了顯著的成效，以2017年Q4為例，平臺刪除了800萬條“令人反感”的視頻，有670萬條都由監(jiān)測軟件自動標(biāo)記，大約75%被標(biāo)記的視頻在被用戶觀看之前就被下架。

與Facebook類似，YouTube的AI標(biāo)記與識別技術(shù)也并不完美，例如2017年，英國政府和一些廣告公司發(fā)現(xiàn)自己的廣告被放在極端主義視頻旁邊，許多知名廣告主宣布撤下YouTube廣告。

今年，YouTube CEO蘇珊·沃西基也承諾雇傭一萬名人工審核員補足算法的局限，并在輿論壓力下就員工權(quán)利規(guī)定每位審核員觀看違規(guī)視頻的上限為4小時，以保護(hù)其心理健康。

4、賬號限制

針對賬號有“活躍度”和“年齡”兩大限制。至少6個月未登錄、從未上傳、從不參與視頻互動（點贊、評論、收藏、關(guān)注）的賬號，平臺有權(quán)收回。

YouTube也在保證一定言論自由的同時，對含有露骨言論和畫面的內(nèi)容采取了“分級制”， 不同國家地區(qū)的用戶，YouTube會參照用戶所在地的法律法規(guī)，對觀看和平臺付費權(quán)設(shè)定不同的年齡限制，例如歐洲大部分國家用戶需年滿16歲收看部分內(nèi)容， 北美用戶需年滿13歲收看部分內(nèi)容等。

5、爭議內(nèi)容標(biāo)注

今年3月，YouTube的CEO蘇珊·沃西基表示YouTube與維基百科合作，在涉嫌陰謀論相關(guān)的視頻旁邊附上維基百科文本鏈接，對爭議內(nèi)容加以標(biāo)注；7月，YouTube將信息查證進(jìn)一步延伸，在爭議視頻頁面信息欄中納入更多Google News的權(quán)威報道鏈接，并在突發(fā)事件發(fā)生時優(yōu)先顯示權(quán)威新聞來源的視頻，幫助高品質(zhì)新聞更高效觸達(dá)用戶。

其他提升自我監(jiān)管力的通道-提高新聞比重

1、扶持權(quán)威新聞內(nèi)容

假新聞事件后，F(xiàn)acebook試圖借新聞內(nèi)容挽回22億用戶的信任，提出了新聞計劃（Facebook Journalism project），支持權(quán)威新聞內(nèi)容的辨識和發(fā)布。

新聞計劃主要包含四大部分：一、對新聞來源和可信度添加標(biāo)注，便于用戶鑒別新聞可靠性；二、提升新聞內(nèi)容貨幣化留住權(quán)威新聞出版商，在移動端應(yīng)用上為新聞內(nèi)容添加訂閱、付費閱讀功能；三、提升本地新聞內(nèi)容的曝光度，與美國6個城市的當(dāng)?shù)毓残侣剻C(jī)構(gòu)推行“Today in +地名”的新聞推送，手動篩選、審查、授權(quán)，將虛假內(nèi)容比重降到最低；四、提升新聞類視頻的比重，在Watch平臺上推出新的新聞內(nèi)容專區(qū)，加入長度至少在3分鐘的時效性新聞視頻，促進(jìn)更有意義的用戶互動。

相似地，谷歌也針對新聞內(nèi)容設(shè)立了“Google News Initiative”，用3億美元扶持權(quán)威新聞機(jī)構(gòu)并鼓勵對新聞視頻產(chǎn)品的打造，計劃在未來3年里提升新聞品質(zhì)病幫助權(quán)威新聞機(jī)構(gòu)為用戶提供更穩(wěn)定可靠的新聞內(nèi)容輸出。

最終新聞內(nèi)容能否幫助正規(guī)內(nèi)容養(yǎng)成還有待觀察，例如Facebook就與新聞出版商們的關(guān)系一直變化無常，先是Newsfeed 內(nèi)容推薦算法改變突出親友內(nèi)容導(dǎo)致新聞內(nèi)容占比下降，后是與CNN、華爾街日報、紐約時報等頭部出版商簽訂直播授權(quán)卻提前毀約，使得新聞機(jī)構(gòu)對與Facebook合作仍持保留態(tài)度。

兒童內(nèi)容管理和過濾-童鎖和定時器

童鎖、內(nèi)容加密、兒童版專用應(yīng)用程序、定時提醒都被普遍作為作為用戶保護(hù)手段，今年8月初，F(xiàn)acebook和Instagram加入了幫助用戶控制APP使用時間的新工具，防止用戶應(yīng)過度使用社交媒體而危機(jī)心理健康，據(jù)報道在未來幾周內(nèi)，更新主頁將展示用戶使用的時長，平均使用時長，用戶可提前設(shè)置使用時限，系統(tǒng)將在使用時滿時提醒用戶。

4月，YouTube，針對面向兒童觀眾的專業(yè)版應(yīng)用YouTube Kids更新了家長管理權(quán)力，為監(jiān)護(hù)人提供更強(qiáng)大的工具套件，將內(nèi)容可視性的限制具體化，并投入更多的人工審核和資金支持。