【成果】陈鸿龙教授在人工智能安全方面取得进展

陈鸿龙教授在人工智能安全方面取得进展，相关研究成果FEAT: Frequency Energy Based Backdoor Attack in Deep Neural Networks发表在《Expert Systems With Applications》。《Expert Systems With Applications》是人工智能领域的国际知名期刊，目前影响因子为7.5（SCI一区）。论文第一作者为人工智能专业2022级硕士研究生李君伟，通讯作者为陈鸿龙教授，BB贝博艾弗森为唯一署名单位和通讯单位。该研究得到山东省泰山学者青年专家项目（项目编号：tsqn202312133）、山东省自然科学基金（项目编号：ZR2022YQ61、ZR2023ZD32）、国家自然科学基金（项目编号：61772551、62111530052）等项目的资助支持。

图1 论文首页

近年来，深度神经网络在医疗影像识别、神经网络专家系统及自动驾驶等领域的应用日益广泛。然而，后门攻击的出现对其构成了严重威胁。这类攻击能操纵模型在植入触发器的样本上表现异常，同时保持对其他样本的正常输出。现有研究多聚焦于触发器对原始图像语义的破坏，却忽视了图像特征对触发器的影响，导致中毒图像质量下降且后门激活能力受损。本文提出一种高效隐蔽的频率能量后门攻击方法FEAT，从能量角度将触发器注入频域分量实现对良性样本的污染。具体而言，我们通过线性融合触发器图像与干净图像高频能量成分的方式植入触发器。针对图像特征对触发器的影响，我们根据样本图像对比度值为其分配差异化融合比率以约束触发器强度，最后通过随机平滑全局扰动生成高质量中毒图像。通过保留触发器图像的语义特征，FEAT能有效攻击多种分类模型。大量实验表明，FEAT在保持模型实用性的同时具有卓越攻击效能，并对现有防御方法展现出强鲁棒性。

图2频率能量攻击的实施策略

论文链接：

https://www.sciencedirect.com/science/article/pii/S0957417425009741