段玉聪|海南大学AI隐私建模 提供数据安全解决方案

如今人工智能深度学习在各个领域广泛应用,而深度学习的首要任务是数据收集,由此带来数据收集过程中隐私泄露的风险。
针对AI治理中技术与法律的结合问题,面向海南自贸港建设数字孪生第一省的数据跨境流动与治理需求背景,海南大学段玉聪教授的DIKW团队近年来通过DIKW(数据、信息、知识与智慧)跨模态融合,以面向元宇宙类概念的本质内容、基本载体建模和处理进行研究,最新研究成果以《面向跨模态隐私保护的AI治理法律技术化框架》为题刊发于中国计算机领域权威性学术期刊《计算机科学》,并获选封面热点论文。
“构建针对AI的数字资源隐私保护框架模型势在必行。”海南大学段玉聪教授介绍,通过在隐私资源流通中进行约束建模,来降低流通过程中参与方隐私侵权和泄露的风险。
该项研究借助DIKW图谱化将网络中的数字资源以数据、信息、知识、智慧类型进行映射,以图谱的形式存储,并且通过图谱中资源的转换而不断地进行补充完善。DIKW图谱技术既可以应用于数字资源的分析利用,也可以应用于数字资源的隐私保护。
文章将隐私资源流通划分为四个环节,即AI系统从用户处感知资源、AI系统存储资源、AI系统向访问者传输资源和访问者处理资源。隐私权包括知情权、参与权、被遗忘权和监督权。流通过程的三个参与方,用户、AI系统和访问者在不同流通环节所拥有的隐私权不同。
文章还引入对隐私价值的保护,狭义上的隐私是指数字资源,广义上的隐私则包括了公平性、人身安全、财产安全、安宁、自主、反商品化道德和声誉等会对用户自身造成影响的因素。在DIKW层面,AI系统可对DIKW图谱中数字资源进行属性价值分析,替换掉传输给访问者的资源组中会造成隐私价值损害和隐私侵权的资源。隐私匿名保护包括数据匿名保护、信息匿名保护和知识匿名保护,根据DIKW图谱中三种资源属性的不同而采取具有针对性的实体、关系、属性转化隐藏或替代。
文/科技日报采访人员 王祝华 裴宁
【 段玉聪|海南大学AI隐私建模 提供数据安全解决方案】编辑/范辉