25年匠心,專注成就好郵箱!
Coremail專家觀點(diǎn):如何應(yīng)對(duì)當(dāng)前AI技術(shù)對(duì)郵件安全的影響
2023-03-31

近日,ChatGPT在互聯(lián)網(wǎng)上掀起了一陣熱潮,目前月活用戶超過 1 億,注冊(cè)用戶之多導(dǎo)致服務(wù)器一度爆滿。

人工智能的話題遍地可見,如“ChatGPT會(huì)取代哪些行業(yè)?”、“ChatGPT的實(shí)現(xiàn)原理”、“ChatGPT的玩轉(zhuǎn)攻略”等等,眾說紛紜,那么對(duì)于郵件安全行業(yè)而言,人工智能又帶來了哪些改變?



3月23日,Coremail郵件安全人工智能實(shí)驗(yàn)室首席架構(gòu)師潘慶峰(下文簡(jiǎn)稱“大P”)在直播間進(jìn)行了深度分享,作為中國(guó)電子郵件元老級(jí)技術(shù)專家,20年以來長(zhǎng)期深耕于智能算法在郵件安全領(lǐng)域的應(yīng)用實(shí)踐,從目前大火的AI熱潮中,他看到了哪些挑戰(zhàn)與機(jī)會(huì)呢?


當(dāng)前AI技術(shù)對(duì)郵件安全對(duì)抗的影響


當(dāng)前 AI技術(shù)當(dāng)前最熱門的話題是ChatGPT和GPT-4了,通過體驗(yàn)ChatGPT, 人們驚嘆于當(dāng)前的深度學(xué)習(xí)模型已經(jīng)能達(dá)到的水平。

大P認(rèn)為,實(shí)際上,ChatGPT完成了兩個(gè)任務(wù),那就是語義分析和文本生成任務(wù)。

首先,如果把ChatGPT模型比作一個(gè)由大量數(shù)據(jù)訓(xùn)練而成的高維空間迷宮,通過讀取每一個(gè)字符來決定下一步走向,最終我們可以抵達(dá)迷宮中的某個(gè)位置。

這個(gè)位置附近就是最可能的答案空間,從這個(gè)位置開始,按照最大可能性路徑一個(gè)一個(gè)字地生成出答案,就是我們看到的ChatGPT回復(fù)。

因此,問題語義分析部分,就是Coremail反垃圾算法進(jìn)行文本分類的基礎(chǔ)。

實(shí)際正常郵件和垃圾郵件,它們都會(huì)集中聚類到高維空間的某個(gè)位置,我們會(huì)根據(jù)它們的空間位置來判斷他們是否垃圾郵件。

大P認(rèn)為,自然語言處理技術(shù)即將進(jìn)入應(yīng)用爆發(fā)期,主要會(huì)在郵件系統(tǒng)產(chǎn)業(yè)上形成三方面的應(yīng)用。

第一,用戶級(jí)層面上,郵件小助手應(yīng)用AI自動(dòng)生成回復(fù)或自動(dòng)擬稿,甚至可以幫助撰寫簡(jiǎn)單邏輯程序,由人工進(jìn)行校驗(yàn),提升工作效率。


第二,公司業(yè)務(wù)層面上,AI技術(shù)可以再讀取大量公司文檔后生成客服系統(tǒng),與目前機(jī)械性的回復(fù)相比,后期的答疑質(zhì)量將會(huì)大幅上升。


第三,對(duì)于垃圾郵件發(fā)送方而言,AI技術(shù)可能會(huì)被用來制作大量垃圾文本,形式內(nèi)容不一但內(nèi)涵一致,垃圾郵件的收發(fā)量有可能快速上升。


AI 既是矛,也是盾

盡管ChatGPT被用作開發(fā)勒索軟件和釣魚郵件開發(fā)已是板上釘釘,大P在直播間中也強(qiáng)調(diào)每一項(xiàng)技術(shù)都可以用于進(jìn)攻或防守,不用太過擔(dān)心深度學(xué)習(xí)技術(shù)會(huì)導(dǎo)致現(xiàn)有的反垃圾識(shí)別系統(tǒng)失效。

大P分析了三點(diǎn)原因:首先,生成大量垃圾文本遠(yuǎn)比文本分類需要大得多的運(yùn)算量,普通黑產(chǎn)團(tuán)伙很難提供這種量級(jí)的算力支撐。

其次,考慮到生成文本的可讀性及邏輯性,此類文本必然帶有很多有指向性的詞語,詞性相近文本在高維空間的位置都是相似的,這代表著使用文本分類進(jìn)行反垃圾不會(huì)有太多的變化。

最后,反垃圾算法也不是單純的文本分類問題,還可通過發(fā)信歷史、發(fā)信行為、發(fā)信來源等多種特征協(xié)助判斷。


AI賦能郵件安全-矛盾結(jié)合

黑產(chǎn)團(tuán)伙樂于使用AI生成垃圾文本,那么對(duì)于防守方而言,我們同樣可利用深度學(xué)習(xí)技術(shù)動(dòng)態(tài)生成垃圾郵件內(nèi)容,用來給反垃圾系統(tǒng)做陪練。

面對(duì)日新月異的垃圾內(nèi)容,Coremail作為防守方以攔截垃圾內(nèi)容為目標(biāo)不斷調(diào)整反垃圾模型,整個(gè)過程是機(jī)器自動(dòng)完成,雙方都能在此對(duì)抗過程中提高自己的效能。

科技向善,眾行者遠(yuǎn),是Coremail對(duì)于當(dāng)前AI技術(shù)+郵件安全的樂觀期望,我們也期待著在這場(chǎng)劃時(shí)代技術(shù)巨變中,每個(gè)人在尋求商業(yè)機(jī)會(huì)的同時(shí),也能為社會(huì)的進(jìn)步作出相應(yīng)的貢獻(xiàn),使得更多人收益。

與Coremail一同,期盼AI新未來。
×