計(jì)算機(jī)科學(xué)學(xué)院研究生麻斌豪等在《Neural Networks》發(fā)表研究成果
作者：孟博 編輯：由永慧 上傳：由永慧 審核：柯尊韜 發(fā)布時(shí)間：2023-10-20 瀏覽次數(shù)：
我校計(jì)算機(jī)科學(xué)學(xué)院碩士研究生麻斌豪以第一作者在人工智能頂刊《Neural Networks》上發(fā)表論文：Multi-domain Active Defense: Detecting Multi-domain backdoor poisoned samples via ALL to ALL Decoupling Training without clean datasets （2023, 168:350-362,；https://www.sciencedirect.com/science/article/pii/S0893608023005324?via%3Dihub）。孟博教授為唯一通訊作者,，我校為第一且唯一署名單位,。
圖 多域主動(dòng)防御方法框架
深度學(xué)習(xí)容易受到后門攻擊，在這種攻擊中,，攻擊者可以通過向訓(xùn)練集中注入中毒樣本,，輕松地將隱藏的后門嵌入到訓(xùn)練好的模型中。許多用于檢測后門中毒攻擊的先進(jìn)技術(shù)都是基于潛在可分性假設(shè),。然而,，目前的自適應(yīng)中毒策略會(huì)大大降低 "可區(qū)分行為"，從而使大多數(shù)先前的先進(jìn)技術(shù)變得不那么有效,。此外,，現(xiàn)有的檢測方法對(duì)于多域數(shù)據(jù)集來說并不實(shí)用，而且可能會(huì)泄露用戶隱私,，因?yàn)樗鼈冃枰⑹占蓛舻臉颖尽?/span>
為了解決上述問題,，該論文提出了一種不使用干凈數(shù)據(jù)集的多域主動(dòng)防御方法。所提出的方法可以生成不同域的干凈樣本,，并利用干凈樣本逐輪解耦神經(jīng)網(wǎng)絡(luò),，從而解除特征和標(biāo)簽之間的關(guān)聯(lián),，使后門中毒樣本更容易被檢測。
Neural Networks 是一個(gè)專注于神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí)研究的學(xué)術(shù)期刊,。該期刊發(fā)布了關(guān)于神經(jīng)網(wǎng)絡(luò),、深度學(xué)習(xí)、機(jī)器學(xué)習(xí)和相關(guān)領(lǐng)域的原創(chuàng)研究論文,、綜述文章和技術(shù)報(bào)告,。在人工智能領(lǐng)域具有較高的國際影響力，是中科院SCI一區(qū)TOP期刊,。
