4月11日,西安电子科技大学马卓教授、刘洋博士、马卓然博士、杨易龙博士、刘心晶博士到实验室分别作“国家自然科学基金委联合基金重点项目技术方案简介”、“纵向联邦学习下的身份隐私保护技术”、“面向联邦学习的投毒攻击与安全防护”、“机器学习中数据与模型隐私泄露攻击技术研究”、“基于语义检测的模型窃取防御”系列学术讲座,学院师生们听取了这次讲座。
马卓教授进行分享
刘洋博士进行分享
杨易龙博士进行分享
互相交流讨论
在本次学术报告中,马卓教授主要聚焦于面向乡村振兴的多民族行业领域多样化数据安全融合与智能计算安全体系,从数据预处理与安全融合、数据安全存储与访问溯源、返贫监测与乡村振兴决策模型、模型安全部署与自适应优化等方面进行介绍。
刘洋博士简要介绍联邦学习中的一些常用技术,并对当下的一些主流联邦学习实现中存在的安全问题和优化方法进行研究。
马卓然博士主要分析了联邦学习中面临的投毒攻击威胁,总结当前抗投毒攻击的联邦学习方案的缺点和不足,提出抗模型投毒攻击的隐私保护联邦学习方案,在加密的参数上基于隐私保护的余弦相似度机制识别恶意参数以抵御攻击,实现面向联邦学习的安全高效防御。
杨易龙博士首先讲解了机器学习主要分为模型训练和模型使用两个步骤,其中无偏采样联邦学习及机器学习即服务是两个典型的案例。针对上述场景提出了两种隐私泄露攻击:面向数据安全的梯度泄露攻击和面向模型安全的类型探测攻击。
刘心晶博士主要介绍了模型窃取攻防的前沿研究,总结了当前模型窃取防御方案的弊端,提出了适用于大量查询流量的模型窃取攻击防御方案,从而提高云平台应用中的模型防御方案的效率。
本次讲座提供一个良好交流的平台,为我院的科研工作和学术交流注入了新的活力和动力。我院将继续加强学术交流和合作,不断提升科研能力和水平,为推进科学研究和社会发展做出更大贡献。
作完报告后,马卓教授与到场的老师们讨论国家基金申报等相关问题。