精彩回顾 _ IJCAI 2022 China人工智能模型审计与监管论坛召开，聚焦模型知识产权保护

11月6日至9日，第31届国际人工智能联席会议-中国大会（IJCAI2022China）在深圳坪山燕湖国际展览中心举行。由IJCAI中国办事处、微多银行、中山大学、浙江大学、复旦大学联合举办的“人工智能模型审计与监督”于11月7日在线上线下顺利进行。论坛上，10余位知名学者参与，全面探讨了示范知识产权保护研究的前沿方向，介绍了该领域的最新研究成果，并探讨了研究面临的困难和挑战。

论坛前半部分由论坛主席、潍坊银行人工智能首席科学家范力欣博士主持，并致开幕词，简要介绍了论坛议程，详细阐述了人工智能模型审核管理所涉及的技术挑战，系统展望了未来的研究重点和学术发展方向。浙江大学网络安全学院任桂教授团队王志波教授作了题为“人工智能安全验证评估平台”的主旨演讲，介绍了人工智能安全的背景，深入分析了数据驱动人工智能安全系统安全问题的原因，并对人工智能模型的安全检测进行了深入分析。具体介绍了团队针对人工智能算法公平性检测、人工智能造假音频视频检测方向提出的技术和平台。中国科技大学网络安全学院副研究员周文博分享了深度学习模型和数据版权保护方面的研究成果，包括深度学习模型的鲁棒水印、深度学习模型的可逆水印、深度学习模型的感知哈希和深度学习模型的加密。南京航空航天大学计算机科学技术学院/人工智能学院薛明福副教授介绍了深度学习模型版权保护研究组的前沿成果，包括深度学习模型版权保护的分类方法和深度学习模型知识产权保护的三种主动许可控制方法。武汉大学国家网络安全学院副研究员王润分享了他关于深度神经网络版权保护方向的最新研究成果，并提高了模型指纹防御算法的鲁棒性，王润研究员说：提出了一个MetaFinger指纹保护框架，通过使用元训练从模型的内部决策区域提取特征来实现版权保护的目的。彭城实验室博士后李少峰介绍了两项用于智能模型保护的深度神经网络认证技术的研究，即基于UAP的智能模型认证技术和基于承诺机制的训练数据认证技术，实验表明：我们已经证明，这两种技术可以准确识别数据集和模型中的违规行为。现有的模型水印方法主要针对分类网络，图像分类和图像恢复任务存在许多差异，模型水印方法不能直接应用于图像恢复模型。针对这个问题，华南理工大学计算机学院的全宇辉副教授提出了一种用于图像恢复深度网络的模型水印技术，并通过实验，结果表明，基于该技术的水印模型具有良好的保真度、唯一性和鲁棒性。

论坛后半部分由中山大学网络安全学院助理教授杨文元主持，杨文元教授简要回顾了上半部分的七场精彩演讲，并介绍了下半部分论坛的议程。国家优秀青年科学基金获奖者张鑫鹏教授作了“神经网络水印”主题演讲，张鑫鹏教授对神经网络水印进行了概述，介绍了基于内部机制的白盒神经网络水印、基于触发器集的黑盒神经网络水印、介绍了基于输出结果的无框神经网络水印和神经网络模型篡改检测。香港中文大学（深圳）数据科学学院吴保元副教授以“后门学习的发展现状及最新进展”为主题，对后门攻击、后门防御的发展现状进行了总结，并详细介绍了后门学习的最新基准平台BackdoorBench。清华大学博士生李一明介绍了他在“基于所有权认证的模型和数据集版权保护”方面的最新研究成果，包括通过嵌入外部功能进行有效无害的所有权验证、通过后门水印进行数据集保护的黑盒所有权验证、非目标后门水印（无害保密数据集的版权保护）等。中国科学院信息工程研究所国家重点实验室的博士生梁世源提出了一种模拟探测器，可以用来窃取黑盒目标探测器的知识。模仿检测器将目标检测中的知识盗窃视为一种黑盒知识蒸馏，并提出了一个教师-教师框架来解决这一问题。大量实验表明，该方法能够达到最佳的模型提取精度。上海交通大学网络空间安全研究所博士生李芳琪介绍了一种新的神经网络水印安全威胁，其中包括黑盒水印的新问题，包括封装攻击、版权勒索等，其核心矛盾是公证、时间戳、黑盒场景的不兼容。白盒水印的一个新问题是模型重构攻击，它可以通过从中间层信息反向重构和恢复网络信息来抵御。复旦大学系统软件与安全实验室18级直博生潘旭东作了“AI模型通用指纹跟踪与产权保护实践”的主旨演讲，介绍了一种能够独立于下游任务进行模型指纹提取与验证的通用模型指纹方法。中山大学网络安全学院助理教授杨文元就联邦学习模式版权保护与监督的热点问题介绍了可信联邦学习模式版权监督的研究，并详细阐述了联邦学习模式版权验证方案和联邦学习模式可追溯性方案两项研究。Weiques Bank人工智能算法研究员Ku Oyan博士介绍了FedIPR的最新研究成果，主题是“联邦学习的模型版权保护”。我们提出了第一个联邦学习模型版权验证框架，用于准确验证联邦模型的所有权，而不牺牲模型的可用性。人工智能模型审计监管论坛将全面展示人工智能模型知识产权保护方面的前沿学术进展。作为第31届国际人工智能联席会议-中国会议的重要组成部分，论坛为促进人工智能技术的有效治理和监督，促进人工智能健康可持续发展，保护深度学习模型的知识产权，加快模型交易和共享做出了重要推动。