螞蟻安全實驗室聯邦學習算法研究中稿AAAI-21

(原標題螞蟻安全實驗聯邦學習算法研究中稿AAAI-21)

螞蟻安全實驗室在人工智能頂級學術會議AAAI 2021中迎來雙喜臨門。螞蟻安全天筭實驗室、機器智能團隊端雲共享智能算法團隊成員申書恆花名永巖),以第一作者身份完成的聯邦學習算法研究《STL-SGD:Speeding Up Local SGD with Stagewise Communication Period》成功被AAA1-21收錄。這是螞蟻安全天筭實驗室中稿AAAI-21的第2篇論文,同時也是螞蟻安全實驗室於2020年中稿全球頂級會議的第9篇論文。

隨着公衆行業用戶隱私保護的日益重視,針對數據安全的隱私保護技術越發重要,聯邦學習是基於隱私保護的機器學習建模的主要方式。但行業在應用聯邦學習時普遍存在一個主要痛點:使用聯邦學習在端雲聯合建模時,需要耗費很長的時間進行模型訓練,通信代價過高。

針對這一痛點,螞蟻安全天筭實驗室成員申書恆對如何提升聯邦學習的通信效率展開了深入研究

目前業界主流的聯邦學習建模算法爲FedAvg(Local SGD)算法,其相對於傳統的FedSGD算法在通信效率上已經能實現5-10倍的提升。本篇論文研究首先證明了通信週期和學習率成反比例關係,並基於此發現巧妙地設計了逐階段調整學習率和通信週期的STL-SGD算法,從而在理論上達到了更低的通信複雜度,在強凸、一般凸、非凸+PL條件三種一般性設定下,實現了SOTA。在實驗性能方面,對於凸和非凸問題,所提出的STL-SGD算法相對於FedAvg在公共數據集上均實現了2-5倍的通信效率加速,在加速聯邦學習建模情景上邁出了一大步。

聯邦學習依然是目前工業界基於隱私保護有效的機器建模學習方法,展望該項研究成果在未來的落地應用,STL-SGD有望在端雲風控場景的端雲聯合建模中,有效提升聯邦學習建模效率和模型性能,從而實現更快的模型迭代。讓未來風控在堅守隱私保護的同時,提升風控場景下與黑產博弈的攻防效率,爲用戶提供更好的安全保障。

關於AAAI

AAAI(the Association for the Advance of Artificial Intelligent)是美國人工智能協會,其組織的年度會議(The National Conference on Artificial Intelligence)是專注於人工智能領域的頂級學術會議。AAAI-21將於2021年2月2日—9日以虛擬會議的形式在線舉行。據官方公佈,AAAI-21共收到9034篇投稿,其中接受1692篇,錄取率僅爲21%,錄取難度高。

螞蟻安全天筭實驗室

螞蟻安全天筭實驗室隸屬於螞蟻安全九大實驗室之一,圍繞智能風控和反欺詐技術,探索安全領域的機器學習等前沿問題,致力於打造全球領先的智能風控體系。螞蟻安全天筭實驗室也是守護支付寶"你敢付我敢賠"承諾的中堅力量