近日,浙江大学伊利诺伊大学厄巴纳香槟校区联合学院(ZJUI)研究员张萌研究员及其团队的一项关于新鲜数据的隐私保护技术最新研究成果Age-Dependent Differential Privacy被信息论顶级期刊IEEE Transactions on Information Theory (TIT,CCF-A)正式接受。张萌研究员及其课题组设计了一种基于信息新鲜度的差分隐私技术框架,用于保护用户的实时数据隐私和实现数据效用与数据隐私的最优权衡。
新兴实时智能物联网应用需要实时海量数据更新,例如无人驾驶汽车需要实时采集与更新周围车辆与环境信息及实时高精度地图信息,虚拟现实和元宇宙应用中需要实时全景图像或视频内容信息。在这些应用中,随着时间的推移,实时信息的价值会递减。网络中的传输延迟和拥塞会影响数据接收端的实时性,严重影响用户体验,并可能危及系统和用户的个人安全。因此,信息年龄(Age of Information)成为一种重要的新兴度量,用于描述接收端掌握的有关数据源状态的信息的时效性,即信息新鲜度。
而信息新鲜度是否也会影响数据隐私呢?潜在的隐私攻击者会根据发布的实时信息或基于实时数据的机器学习和数据分析结果以推断有关用户的个人敏感信息,因而严重侵害用户隐私。另外,相对于静态数据,频繁、实时、海量及时序相关性等特性将会让实时数据驱动的实时智能网络应用遭受更加严重的数据泄露。
国内外研究者针对差分隐私中的加噪算法的设计、动态数据库隐私分析等问题展开了广泛研究。然而,现有的差分隐私保护机制忽略了实时数据中的时间维度统计相关性及信息新鲜度对隐私风险影响,这不仅无法解决在实时数据的时序相关性额外产生的隐私泄露的问题,而且往往需要加入过量的噪声从而严重影响数据的效用或者精度。
针对这些问题,张萌研究员及其团队面向实时网络应用信息新鲜度与隐私保护需求,设计了一种基于信息新鲜度的差分隐私技术框架。
▲ 基于信息新鲜度的差分隐私技术框架
研究团队对基于信息新鲜度的差分隐私(age-dependent differential privacy)进行建模与定义,随后分析得到以下结论:任意一个满足传统差分隐私的算法同时也满足基于信息新鲜度的差分隐私,其隐私风险满足:
其中 ϵ_c 为经典差分隐私机制的隐私风险,△(t) 为转移概率测量的最大全变差距离(total variation distance)。该结果首先建立了经典差分隐私理论和基于信息新鲜度差分隐私理论之间的联系:对于任何稳态时序数据,其最大全变差距离是我们表征时所需要提炼的唯一统计特征。其次,这项结果展示了一种新型的实时数据隐私保护技术的可行性,即使用“适当旧的数据”,并表征其隐私保护的效果。最后,结合传统加噪技术与数据老化技术,研究团队设计了一种基于信息新鲜度的差分隐私技术框架。
▲ 性能比较
仿真结果表明(如图2所示),在特定场景下,与传统的纯加噪技术相比,在达到相同隐私保护水平的前提下,将加噪技术与数据老化技术相结合可以实现无上界的数据效用增益。
ZJUI张萌研究员为论文的第一作者,其他合作作者还包括美国西北大学Ermin Wei教授与Randall A. Berry教授以及香港中文大学(深圳)黄建伟教授。
论文链接:https://arxiv.org/abs/2209.01466
作者简介
第一作者:张萌博士
张萌博士是浙江大学伊利诺伊大学厄巴纳香槟校区联合学院的研究员兼助理教授,入选国家级青年人才计划。其主要研究方向包括无线与计算机网络、智能网络优化、边缘智能及分布式机器学习,具体还包括多实时通信与计算、实时数据隐私保护及网络与数据经济学等。张萌博士2019年于香港中文大学信息工程系获得博士学位,2015年于华南理工大学取得学士学位。博士毕业后,他曾于美国西北大学电气工程与计算机工程系从事博士后研究工作。博士期间,他曾访问普林斯顿大学。张萌博士曾于2021年获IEEE/IFIP WiOpt最佳论文奖。他在无线网络相关领域中顶级期刊和国际会议的评审中担任审稿人,其中包括IEEE/ACM ToN、IEEE TMC、IEEE JSAC、IEEE TWC、IEEE INFOCOM、WiOpt等。
第二作者:Ermin Wei教授
Ermin Wei是西北大学电气工程与计算机科学系和工业工程与管理科学系的助理教授。她的研究兴趣是对网络系统的控制和运行,重点是智能电网和能源网络的市场分析。她的研究还包括大规模分布式优化算法和理论,重点是非线性凸优化、网络优化、异步算法及其应用。
第三作者:Randall A. Berry教授
Randall A. Berry教授是美国西北大学电气和计算机工程系主任和教授。Berry教授的研究涵盖了从通信网络到社会网络等网络系统中出现的资源分配问题。Berry教授目前感兴趣的具体课题包括为无线网络开发分布式资源分配技术、动态频谱共享和无线频谱政策、了解激励机制在网络安全中的作用,以及为社会网络中的学习和采用建模。
第四作者:黄建伟教授
黄建伟教授现任香港中文大学(深圳)校长讲座教授,理工学院副院长,兼任深圳市人工智能与机器人研究院副院长和群体智能研究中心主任。他是深圳市鹏城特聘教授,IEEE Fellow,IEEE通信学会杰出讲者,汤森路透计算机科学领域全球高被引科学家,现任IEEE Transactions on Network Science and Engineering(JCR Q1)的主编(Editor-in-Chief)。黄教授长期专注于网络通信、网络经济学和群体智能交叉领域的开创性研究,其特色是通过融入经济学理论给出网络中资源分配和优化的解决方案。