近日，ChatGPT在互聯網上掀起了一陣熱潮，目前月活用戶超過 1 億，注冊用戶之多導致服務器一度爆滿。

人工智能的話題遍地可見，如“ChatGPT會取代哪些行業？”、“ChatGPT的實現原理”、“ChatGPT的玩轉攻略”等等，眾說紛紜，那么對于郵件安全行業而言，人工智能又帶來了哪些改變？

3月23日，Coremail郵件安全人工智能實驗室首席架構師潘慶峰（下文簡稱“大P”）在直播間進行了深度分享，作為中國電子郵件元老級技術專家，20年以來長期深耕于智能算法在郵件安全領域的應用實踐，從目前大火的AI熱潮中，他看到了哪些挑戰與機會呢？


當前AI技術對郵件安全對抗的影響


當前 AI技術當前最熱門的話題是ChatGPT和GPT-4了，通過體驗ChatGPT, 人們驚嘆于當前的深度學習模型已經能達到的水平。

大P認為，實際上，ChatGPT完成了兩個任務，那就是語義分析和文本生成任務。

首先，如果把ChatGPT模型比作一個由大量數據訓練而成的高維空間迷宮，通過讀取每一個字符來決定下一步走向，最終我們可以抵達迷宮中的某個位置。

這個位置附近就是最可能的答案空間，從這個位置開始，按照最大可能性路徑一個一個字地生成出答案，就是我們看到的ChatGPT回復。

因此，問題語義分析部分，就是Coremail反垃圾算法進行文本分類的基礎。

實際正常郵件和垃圾郵件，它們都會集中聚類到高維空間的某個位置，我們會根據它們的空間位置來判斷他們是否垃圾郵件。

大P認為，自然語言處理技術即將進入應用爆發期，主要會在郵件系統產業上形成三方面的應用。

第一，用戶級層面上，郵件小助手應用AI自動生成回復或自動擬稿，甚至可以幫助撰寫簡單邏輯程序，由人工進行校驗，提升工作效率。


第二，公司業務層面上，AI技術可以再讀取大量公司文檔后生成客服系統，與目前機械性的回復相比，后期的答疑質量將會大幅上升。


第三，對于垃圾郵件發送方而言，AI技術可能會被用來制作大量垃圾文本，形式內容不一但內涵一致，垃圾郵件的收發量有可能快速上升。


AI 既是矛，也是盾

盡管ChatGPT被用作開發勒索軟件和釣魚郵件開發已是板上釘釘，大P在直播間中也強調每一項技術都可以用于進攻或防守，不用太過擔心深度學習技術會導致現有的反垃圾識別系統失效。

大P分析了三點原因：首先，生成大量垃圾文本遠比文本分類需要大得多的運算量，普通黑產團伙很難提供這種量級的算力支撐。

其次，考慮到生成文本的可讀性及邏輯性，此類文本必然帶有很多有指向性的詞語，詞性相近文本在高維空間的位置都是相似的，這代表著使用文本分類進行反垃圾不會有太多的變化。

最后，反垃圾算法也不是單純的文本分類問題，還可通過發信歷史、發信行為、發信來源等多種特征協助判斷。


AI賦能郵件安全-矛盾結合

黑產團伙樂于使用AI生成垃圾文本，那么對于防守方而言，我們同樣可利用深度學習技術動態生成垃圾郵件內容，用來給反垃圾系統做陪練。

面對日新月異的垃圾內容，Coremail作為防守方以攔截垃圾內容為目標不斷調整反垃圾模型，整個過程是機器自動完成，雙方都能在此對抗過程中提高自己的效能。

科技向善，眾行者遠，是Coremail對于當前AI技術+郵件安全的樂觀期望，我們也期待著在這場劃時代技術巨變中，每個人在尋求商業機會的同時，也能為社會的進步作出相應的貢獻，使得更多人收益。

與Coremail一同，期盼AI新未來。