圖片來源@視覺中國

文 | 顯微故事，作者 | 常寧寧，編輯 | 卓然

風(fēng)控，不就是一群封號的人嗎？

很長一段時間，互聯(lián)網(wǎng)企業(yè)的“安全人”都被外界冠以這樣的誤解。

他們最大的成績，就是平臺上沒有犯罪、沒有黑產(chǎn)、無大事發(fā)生。他們的努力，也和黑產(chǎn)一樣不被陽光所照射。

但沒有人知道的是，國內(nèi)的互聯(lián)網(wǎng)黑產(chǎn)已是千億規(guī)模的市場。虛假點擊、羊毛黨、“假靳東”、“寵粉詐騙”、同城招嫖，各種欺詐黑產(chǎn)層出不窮。

用戶的信息無時不刻不被黑產(chǎn)竊取，一旦被盯上，等待他們的是精心布下的陷阱。

然而，同黑產(chǎn)對抗沒有捷徑可走，完全是一場人力和財力的比拼。

幸運的是，在這場戰(zhàn)爭中，有一支不計較財力、發(fā)誓要暗中保護(hù)大家的隊伍。

就像是《冰與火》之歌里面的守夜人，永遠(yuǎn)眺望著森林幽暗的深處。這支守夜人隊伍，則24小時盯著互聯(lián)網(wǎng)黑產(chǎn)的深淵。

以下是關(guān)于這些守夜人的真實故事：

兩個男孩擁抱親吻，這正常嗎？

“這個帳號不太對勁”，2020年3月，一凡收到了審核員發(fā)來的一條特殊視頻。

視頻內(nèi)容的主人公是兩個小學(xué)生模樣的男孩在互相輕吻、擁抱。“這看起來一點都不像這個年紀(jì)的孩子會做的事情”，一凡的直覺告訴自己。

她翻看了發(fā)布視頻的帳號，發(fā)現(xiàn)該帳號的歷史視頻里還有大量類似的內(nèi)容：男主角永遠(yuǎn)是這兩個男孩，除了輕吻、擁抱，還會彼此撫摸。

更奇怪的是，有些視頻里還出現(xiàn)了一個成年男性，看起來似乎正在指揮這兩個男孩的動作。

這顯然是一條違禁信息，涉嫌兒童性侵。按一凡以往的經(jīng)驗，這種內(nèi)容的直接處理方式就是下架視頻、封帳號，確保平臺上的內(nèi)容正向、健康即可。

“但這樣就足夠了嗎？”一凡猶豫了起來。

如果只是封鎖帳號，那兩個男孩真的遇到了危險，誰來幫忙他們？那個成年男性明顯存在問題，封鎖帳號并不會阻止他繼續(xù)傷害孩子。

幸運的是，領(lǐng)導(dǎo)馬上回復(fù)“拉群，同步線下打擊組同學(xué)報警。”。

“報警”對應(yīng)著最高風(fēng)險等級——意味著高危內(nèi)容背后可能有犯罪行為，通常需要極強(qiáng)的證據(jù)，經(jīng)過法務(wù)和各方面研究判斷后，才能下達(dá)“報警"的指令。

但面對一些比較極端的案例，抖音安全中心會直接評估是否需要立即報警。

“線上封幾個號沒用，得讓這種渣滓現(xiàn)實中接受懲罰才行”，一凡的領(lǐng)導(dǎo)岳文峰當(dāng)機(jī)立斷地回復(fù)。

幾乎是同一時間，審核組的同事，經(jīng)過篩查帳號的歷史視頻，根據(jù)視頻中的一些建筑、廣告牌等場景信息，了解到了視頻拍攝者的所在地——嫌疑人住在四川的某個縣城里。

拿不到研判結(jié)果，意味著證據(jù)不充分、或存在法律漏洞不予立案，很可能全員白跑一趟。此外，受疫情影響，國內(nèi)北京到事發(fā)地沒有直飛航班，轉(zhuǎn)機(jī)也讓線下打擊組的人增加了滯留和隔離風(fēng)險。

但他們沒有遲疑過，每個人心里都清楚，每耽擱一分鐘，視頻里的兩個小男孩就會遭受多一些傷害。

在線下打擊組提供的線索和幫助下，該案件于3月27日偵破，當(dāng)?shù)鼐桨l(fā)布通告稱嫌疑人被抓獲，兩個小男孩被安全解救。

此時，距離一凡發(fā)現(xiàn)那條視頻僅剛過去一周。

后續(xù)調(diào)查結(jié)果顯示，這兩個男孩都是四川當(dāng)?shù)氐牧羰貎和改搁L期在外打工。

疫情期間，學(xué)校封禁，由于家中沒有WIFI無法上網(wǎng)課，兩個男孩前往犯罪嫌疑人家中使用網(wǎng)絡(luò)，被哄騙拍攝視頻并威脅不能告訴家長，嫌疑人還將視頻在多個社交軟件、其他短視頻平臺及網(wǎng)盤渠道發(fā)布兜售。

據(jù)《2019年性侵兒童案例統(tǒng)計及兒童防性侵教育調(diào)查報告》顯示，2019年共發(fā)生301起兒童性侵案件，熟人作案超七成，其中師生關(guān)系占比最高。

性侵兒童案往往發(fā)生在非常隱蔽的情況下，除了當(dāng)事人的陳述證言，很難有其他證據(jù)佐證。另外，還有受害人保存證據(jù)不及時導(dǎo)致證據(jù)遺失、當(dāng)前低齡兒童證據(jù)采信難等問題。

抖音安全中心的及時介入，配合協(xié)助警方獲取了重要線索和證據(jù)、鎖定了犯罪嫌疑人，才保證了兩個孩子才沒有遭受更大的傷害。

得知兩個孩子被成功解救以后，一凡焦灼的心才終于放下了。

“不想出成績、害怕被cue到”

在此之前，一凡一直定義自己所在的團(tuán)隊，是一支最怕被領(lǐng)導(dǎo)cue到、也“不想做出成績”的團(tuán)隊。

她所在的抖音安全中心，是抖音創(chuàng)辦之初就設(shè)立的部門。盡管目前團(tuán)隊擁有數(shù)千名成員，但每個成員都過得很“憋屈”。

“平臺沒事發(fā)生，才說明你的工作到位了”，一凡說，但平臺沒事發(fā)生，外界也感知不到團(tuán)隊做了哪些工作。

這個年輕的團(tuán)隊被稱為“抖音的安全護(hù)衛(wèi)隊”，目前團(tuán)隊平均年齡僅25歲。僅到今年12月初，該團(tuán)隊就處理了超過730萬個違規(guī)帳號、1380多萬違規(guī)視頻。

在這里，忙碌是常態(tài)。他們每天要為平臺上6億用戶保駕護(hù)航，要關(guān)注平臺上每天所產(chǎn)生的數(shù)百億次行為，這其中，要關(guān)注和處理無數(shù)風(fēng)險性內(nèi)容、違禁內(nèi)容、以及黑產(chǎn)行為。整個團(tuán)隊的下班打車記錄里，時常出現(xiàn)夜里11點至凌晨2點的情況。

一凡是在今年年初剛加入團(tuán)隊，上司岳文峰在她入職的頭一天就給了個“下馬威”。

“抖音有4億用戶（一凡加入時），全國500萬黑產(chǎn)從業(yè)者對這4億用戶虎視眈眈，我們的責(zé)任就是和500萬黑產(chǎn)人做對抗，保護(hù)用戶的生命財產(chǎn)安全”。

但一凡沒想到，等待她的第一個任務(wù)，是當(dāng)一名“嫖客”。

當(dāng)時抖音正從4億用戶邁向6億用戶飛速增長。流量暴增的同時，背后多帶來的黑產(chǎn)行為也成比例增長。

盡管抖音一直針對違規(guī)帳號進(jìn)行打擊、不斷升級風(fēng)控策略模型，但“道高一尺，魔高一丈”，狡猾的黑產(chǎn)人也通過各種方式逃避機(jī)器和算法的追捕——為此抖音不得不采用“無間道”的方式，通過異常帳號上留下聯(lián)系方式，假扮“嫖客”，打入黑產(chǎn)內(nèi)部。

初接這個任務(wù)時，一凡有些為難，她壓根看不懂黑話——最開始她盯著后臺發(fā)現(xiàn)的“茶葉”、“邀請喝茶”的帳號們百思不得其解。

通過一段時間的臥底，一凡才知道“茶葉”相關(guān)的一整套引流術(shù)語是風(fēng)月行業(yè)的黑話：“上新”則是指有新人加入了、“歡迎喝茶”則是表明營業(yè)了。

光知道黑話還不夠，一凡必須找到證據(jù)證明帳號涉黃才能封號。同時，她必須研究和定義新犯罪行為的特征，輔助機(jī)器學(xué)會自動識別。

然而，大部分犯罪行為會跨平臺進(jìn)行：通過抖音上引流、去別的平臺交流、再到第三方平臺實現(xiàn)付款交易，每個平臺的數(shù)據(jù)無法打通、很難跨平臺取證。

一開始，一凡“放不開”。

“我還是個未婚女性，哪兒知道怎么做‘嫖客’？”，一凡說，常常是她一開口，對方就知道不是正經(jīng)‘嫖客’，聊著聊著就不見了。

很長一段時間里，挫敗感包裹著一凡。那段時間，她常常全天苦于如何‘更像’一個嫖客，每天都在質(zhì)疑自己是誰、從哪兒來、為什么要干這個。

和一凡有著類似困惑的，還有反欺詐項目的負(fù)責(zé)人王宸。他是個95后，也是因為“讀書時就玩抖音、喜歡抖音濾鏡”而加入抖音。

但加入抖音后，他才發(fā)現(xiàn)這份工作并不如想象的有趣。“我無時無刻不在開始懷疑人生”，王宸說。

王宸每天的工作都要審核大量帳號、總結(jié)欺詐帳號相關(guān)的特點供給機(jī)器學(xué)習(xí)。“每天要看成千上百個帳號、發(fā)現(xiàn)各種細(xì)小的特征來判斷黑產(chǎn)”，王宸說。

這種忙碌是永無止境的，在做重點專項打擊項目的時候，加班到12點以后都是常事。

最忙的時候，一凡和王宸要加班到凌晨3點、甚至直接在公司過夜。

但下班時，內(nèi)心的焦慮感依然沒有減輕，唯恐自己的休息、“沒有做到極致”，而讓平臺上的黑產(chǎn)多肆虐一天、讓無辜的孩子多受一份傷害。

但也是在這樣無數(shù)次的自我懷疑、痛苦掙扎后，一凡和王宸感覺自己突破了，得到了一種全新的體驗。

通過和同事、警方的學(xué)習(xí)和總結(jié)，一凡摸索出來了和涉黃人員交流的話術(shù)。她開始直接詢問對方“多少錢、在哪里、安不安全”。

問完這三句話之后，對方會發(fā)來“菜單”（價格表），取證環(huán)節(jié)才算完成，緊接著再截圖舉報到對應(yīng)平臺，一個任務(wù)圓滿結(jié)束。

“后來組里都開玩笑說我是‘女流氓’了”，一凡說。

通過一凡她們堅持跨平臺取證、舉報，加上團(tuán)隊的努力，已經(jīng)有其他互聯(lián)網(wǎng)平臺和抖音建立了合作。抖音提供取證完畢后的被舉報帳號，對方再通過這個帳號查詢IP，可以將相關(guān)的IP帳號全部封掉。

王宸則收到了一封感謝信，對方說自己因為抖音安全中心反欺詐小組的工作讓自己免于被騙。

王宸這才體會到這份工作的意義：審核是第一道關(guān)卡，看起來普通，但在審核基礎(chǔ)上，如何去用自己的力量幫助行業(yè)高效運轉(zhuǎn)，這才是更重要的事情。

在今年雙十一抖音成交額達(dá)到187億時，王宸更覺得自己在做一件有意義的事情。

通過他所在的團(tuán)隊努力，今年雙十一他們總共阻止了幾十萬風(fēng)險帳號、幾千萬次的惡意攻擊，在這背后，是無數(shù)羊毛黨和數(shù)以億計的止損額。

“我們?yōu)橛脩魟?chuàng)造更好的網(wǎng)絡(luò)環(huán)境，幫助他們獲得成功，這種成就感，不是隨便能得到的。”

確保安全，絕不是一刀切封號了事

被誤解、自我懷疑……一凡和王宸的痛苦，岳文峰也一直看在眼里。

作為他們的直屬上司，岳文峰也有相似的疑惑。

他入職抖音時，抖音在7個月內(nèi)用戶新增兩億、安全中心的成員也成倍增長。但外界對團(tuán)隊一直存在誤解，大部分認(rèn)為安全團(tuán)隊最大的作用就是“封號”。

如果團(tuán)隊做得好，其達(dá)到的效果是外界根本不知道有該團(tuán)隊的存在，但這樣又如何讓團(tuán)隊實現(xiàn)自我價值感？

這在他看來是極其荒謬的，“安全部門的工作不是簡單封號就可以解決的。背后的問問往往比大家想的更復(fù)雜。”

但這種誤會卻曾一度引發(fā)內(nèi)部產(chǎn)生巨大矛盾。

但團(tuán)隊研判后發(fā)現(xiàn)該帳號是沖浪領(lǐng)域的垂直號，“裸露畫面”是穿泳衣的沖浪愛好者，并沒有達(dá)到封帳號標(biāo)準(zhǔn)。

但家長不依不饒，聲稱如果不封帳號，就要找媒體曝光。

抖音安全中心內(nèi)部一下分成兩派：一方主張封號，免得家長去曝光；一方主張不封號，因為原帳號沒有任何問題，誰也說服不了誰。

在旁人看來，這無非就是一個簡單的封號手續(xù)，但是在岳文峰看來是關(guān)乎底線的問題——不能因為一次不符合標(biāo)準(zhǔn)的舉報而誤殺。

岳文峰堅持“不封”。但這個舉動一度讓主張封號的團(tuán)隊成員不理解，甚至在雙月會后收集問題時，有人提問質(zhì)疑他：到底能不能帶好團(tuán)隊。

沒過幾天，此前被舉報的沖浪愛好者帳號突然發(fā)布了一條高危敏感的內(nèi)容，符合封號條件。

同時，他讓安全技術(shù)團(tuán)隊的同事查詢帳號是否存在異常，結(jié)果發(fā)現(xiàn)，這個帳號在發(fā)布違規(guī)視頻時候的登錄 IP 地址與以往不同，卻和“舉報家長”IP地址高度類似。

“會不會是舉報人黑了帳號”，岳文峰暗自猜想。但怕冤枉好人，團(tuán)隊迅速以“遭受攻擊"為名迅速報警。

警方出動調(diào)查后回復(fù)，一切正如岳文峰所預(yù)判的那樣：舉報人因舉報不成而盜取帳號、發(fā)布高危內(nèi)容誘導(dǎo)抖音封號。

但岳文峰沒有想到的是，舉報家長根本就沒有兒子，該帳號在抖音的視頻搶了舉報人在三亞的沖浪生意，舉報人希望通過封對方的號來挽回生意損失。

這也進(jìn)一步證明了岳文峰的設(shè)想，風(fēng)控絕不僅是封號而已。一旦簡單粗暴地對待復(fù)雜問題，對抖音百害而無一利。

前者涉嫌違法犯罪，后者違規(guī)，處理方式完全不同，并不是僅靠封號能解決。

“封號是最簡單的，最偷懶的做法”，岳文峰說。

另一方面，早期干預(yù)也可以降低風(fēng)險。比如，為了防止青少年沉迷抖音、受到超過其年齡的內(nèi)容影響，抖音也推出了青少年模式，對視頻內(nèi)容、使用時長進(jìn)行了針對性設(shè)計。

“黑產(chǎn)是不可能被消滅的，我們能做的就是不斷提高犯罪的成本，當(dāng)犯罪成本高了，自然數(shù)量就下降了。”

從早期干預(yù)，到合理預(yù)判，到線下打擊，通過岳文峰等人不計成本地建造這座“看不見”的圍墻，抖音才得以保留健康、安全的內(nèi)容生態(tài)。

守最長的夜，做最忠于用戶的“守夜人”

在參與解救四川兩個被猥褻男孩之前，一凡一度認(rèn)為自己的工作“沒有實感”。

作為全線上化的風(fēng)險防范團(tuán)隊，對于風(fēng)險、犯罪內(nèi)容的審核和處理也大多是線上化進(jìn)行，即便是成員自身都很難評估自己對企業(yè)、社會所作出的價值。

“但真的看到兩個留守兒童因為我們的參與而獲救，那一刻我覺得自己值了，這份工作非常實在”。

一凡說，“這個效果比我們在線上封幾個帳號有效 1 萬倍”，必須采取手段從精神、肉體上對其進(jìn)行雙重打擊。

在此之后，她再也沒有懷疑過自己加入抖音的目的和未來，“我每天敲的那些代碼是能夠?qū)嶋H上幫助到有需要的人的”。

曾做過10年“安全人”的岳文峰表示，抖音是他見過的、為數(shù)不多的在安全領(lǐng)域“不設(shè)上限”的公司，“在創(chuàng)辦抖音之初就建立安全團(tuán)隊、為安全擴(kuò)建進(jìn)千人員工……”

“長夜將至，我從今開始守望，至死方休。我將不娶妻、不封地、不生子。我將不戴寶冠，不爭榮寵。我將盡忠職守，生死於斯。我是黑暗中的利劍，長城上的守衛(wèi)。我是抵御寒冷的烈焰，破曉時分的光線，喚醒眠者的號角，守護(hù)王國的堅盾。我將生命與榮耀獻(xiàn)給守夜人，今夜如此，夜夜皆然。”

這段來自《冰與火之歌》的守夜人誓言，也完美詮釋了這些守護(hù)著網(wǎng)絡(luò)暗處的“抖音守夜人”。

在城中的老百姓幸福生活時，總要有人站在城墻上，眺望黑暗，及時扼殺逼近的危險。

讓人慶幸的是，留下來的“守夜人”里，幾乎沒有選擇離開的。

更多精彩內(nèi)容，關(guān)注鈦媒體微信號（ID：taimeiti），或者下載鈦媒體App