欢迎访问深圳大学电子与信息工程学院!

/ EN
— 学术科研 —
学术讲座:人工智能安全研究新进展
发布:2021-10-22 16:08:34

主讲嘉宾:周文柏 中国科学技术大学 特任副研究员

邀 请 人:李斌 教授

间:20211028日 下午3:45

点:深圳大学沧海校区致信楼电子与信息工程学院N710


报告摘要:人工智能的发展经历了漫长的历史,从最初提出的MCP神经元到现阶段的各类智能应用,其发展历程可大致划分为三个阶段,这期间经历过两次低谷。近年来,随着软硬件技术的发展和数据规模的提升,基于深度学习的人工智能技术取得了重大突破,也逐渐形成了算法——学派——技术领域——应用领域的层级式体系。但随之而来的是人工智能的安全问题,这是人工智能技术快速发展阶段不可回避的重要问题。人工智能技术的风险伴随了智能技术的整个生命周期和所有应用场景,而其中面临威胁最大的,正是如计算机视觉等应用最广泛的领域。现阶段人工智能安全主要有对抗样本攻防、数据毒化攻防、模型可解释、算法后门攻防、联邦学习、差分隐私机器学习、深度伪造与检测、机器学习开源框架平台安全漏洞等热点方向,中国学者也在这些热点方向上做出了重大突破。但从整体和长远来看,人工智能行业在“安全问题”上仍未做好充分准备。本报告针对人工智能安全这一主题进行聚焦,从保护AI赋能系统、利用AI提升安全防御、应对AI的恶意应用三个维度,具体解读人工智能安全的含义,并围绕模型水印、Deepfake深度伪造及检测等具体问题,介绍团队在人工智能安全领域的研究新进展。


嘉宾简介:周文柏,硕士生导师,中国科学技术大学网络空间安全学院特任副研究员,中国科大“墨子杰出青年”。中国图像图形学会数字媒体取证与安全专委会委员,青年组组长。主要研究兴趣包括信息隐藏和人工智能安全,发表IEEETIFSCVPRICCVAAAITCSVT等高水平论文二十余篇,担任AAAICVPRICCVIJCVACMTIST等多个期刊会议的PCmember与审稿人。参与由Facebook发起的全球最高水准与最大规模人脸深度伪造检测挑战赛DFDC,获全球第二,参与阿里巴巴-IJCAI19人工智能算法对抗赛,获防御赛道第一。主持国家自然科学基金,国家重点研发计划子课题,安徽省自然科学基金等多项科研项目。


电子与信息工程学院

20211022