头条新闻

生成式人工智能安全大赛完美收官 | 院士专家共谈AI安全与治理

发布时间:2024-12-27

12月11日,首届生成式人工智能安全大赛完美收官,并在北京凤凰中心举办了隆重的颁奖仪式暨大模型安全技术研讨会。大赛由北京市互联网信息办公室和中国科学院网络安全和信息化领导小组办公室共同指导,中国科学院信息工程研究所和信息内容安全国家工程研究中心联合主办,聚焦安全攻击、安全检测、安全防护三大赛道,聚集国内优势力量,有效发现、分析、应对大模型安全风险,不断提升人工智能基础底座的安全可控水平,更好地促进北京市及全国的大模型产业安全发展。

大赛自今年4月在中关村论坛启动以来,吸引了来自全国各地高等院校、科研院所、行业企业等200余支赛队参与。经过几个月的初赛、复赛、专家评审等层层筛选和激烈角逐,3个赛道最终确定了冠军、亚军、季军,以及优胜奖。

会上,中国科学院信息工程研究所所长郭莉、凤凰卫视副总裁刘庆生首先致欢迎辞。大赛指导单位北京市委网信办副主任潘锋、中国科学院网信办副主任曾大军出席并致辞。中国工程院方滨兴院士通过视频发言致辞,指出高度重视大模型安全已成全球共识,也是各国关注的科技制高点,希望广大科技工作者承担起使命和责任。

中国工程院吴世忠院士发表主旨演讲,分别从网数智全面转型创造安全新机遇、大模型广泛应用提出安全新挑战、人工智能大发展需要安全新作为三方面,强调了生成式人工智能安全的重要性和紧迫性,以更好保障、支撑、促进人工智能技术的发展。

中国科学院信工所技术副总师韩冀中介绍了大赛组织和初复赛情况,与会嘉宾向获奖团队颁发了奖杯和证书。

来自清华大学的许斌研究员、北京大学的杨耀东研究员分别就国产自主可控基础大模型的研究与应用、大模型安全对齐主题做了技术报告。随后大会程序委员会主席、中国科学院信工所虎嵩林研究员组织了来自学术届、产业届的专家,围绕人工智能安全与治理进行了圆桌讨论。

大赛及活动受到来自政、产、学、研各界的广泛关注,阿里、百度、360、美团、百川智能、零一万物、京东、58同城等60余家代表企业参会。