11月25日，中国科学技术大学张卫明教授来我院交流，参观上海市多维度信息处理重点实验室，并为我院师生作了题为《生成式AI与认知安全》的学术报告。报告由殷赵霞教授主持。
张卫明教授是中国科学技术大学教授、博导，网络空间安全学院副院长。主要研究方向为信息隐藏和人工智能安全。发表论文200多篇，主持项目20余项，入选2021年长三角人工智能十大杰出人物。
报告聚焦大模型安全风险，着眼于如何更加负责任地对待和管理人工智能技术的发展这一长远的课题，张卫明教授首先深入解读了近日各国最新发布的AI有效监管和治理相关条款。然后以生成式AI引发的智能技术变革为切入点，着重讲解了AI价值观对齐问题，介绍了AI越狱攻击的潜在威胁，并探讨了防范措施，强调了AI有效监管和认知安全的紧迫性。
张卫明教授详细讲解了目前现有的被动检测和主动检测的方法，在主动检测方法提出了核心理论问题，探讨在生成文本中是否可以无损（不影响模型生成质量）嵌入水印。
在交流环节，与会师生围绕AI模型攻击、价值观对齐、AI模型水印等系列问题与张卫明教授进行深入交流和讨论。
