阿里&清华邀你和AI对抗！全球首个通用目标检测对抗攻击竞赛启动！ 疫情期间在家精进技术却遭遇服务器短缺？想畅快体验算力自由，挑战高难度目标检测攻击场景吗？这里有一个完美实现上述目标，还能获得阿里校招绿通、万元奖金、权威证书和高定礼品，更可去顶会当演讲人的比赛。 阿里安全和清华大学联合举办，数据挖掘顶会 CIKM 强力支持的 CIKM2020 安全 AI 挑战者计划第四期开赛。在第四期目标检测领域 MS COCO 经典数据集上，场景更通用，攻击自由度更大，任务更复杂，学术价值更高！ 一什么是安全 AI 挑战者计划？ 随着流量识别、人脸识别、动作识别、假货识别等应用场景的出现，AI 与安全结合的成果愈加丰硕，但 AI 面临的安全问题也逐渐浮出水面。 为了抵御未来 AI 面临的安全风险，阿里安全联合清华大学，以对抗样本为核心，提供场景、技术、数据、算力、经验等支持，召集「挑战者」以防守者的身份，共同打磨 AI 模型安全；为广大安全爱好者提供数字基建安全的试炼场，在高难度的真实环境中提升技术，培养真正有安全实战能力的安全基建人才。 目前关于 AI 的比赛繁多，质量水准参差不齐，且大多为一次性比赛。安全 AI 挑战者计划的最大特点是，以系列竞赛贯穿全年，主打高难度、高创新、高趣味、高回报的题目任务和运营玩法。 每一期差异化的呈现，既满足年轻技术爱好者猎奇求新的偏好，又激发了选手剑走偏锋的奇思妙想，将思路方法持续的沉淀到技术社区，将互联网大企业、优秀科研院校的私有经验公有化，每一期都能够实现超预期的累加技术成。 2019 年 8 月 - 2020 年 3 月，安全 AI 挑战者计划成功举办了第一期人脸对抗识别比赛、第二期 ImageNet 图像对抗比赛、第三期辱骂场景文本对抗比赛；吸引全球 200 多所高校 100 多家企业的近 4000 支队伍参加。 挑战者计划去年重在算法领域深耕，今年在赛题设计上致力于实现 AI 算法和网络安全的融合，旨在打破行业机器学习 / 深度学习一家独大的情况，引领 AI 技术在落地时一定程度上结合传统技术，运用多种技术组合解决业务问题，更好地抵御深度学习时代的安全问题。总奖金池 200 万元。 （图为往届三期选手对比赛的评价） 二通用目标检测的对抗攻击的出题思路 为了发现目标检测模型的脆弱性，为此领域的工作者敲响警钟，CIKM2020 安全 AI 挑战者计划第四期采用 COCO 数据集（其中包含 20 类物体），任务是通过向原始图像中添加对抗补丁（adversarial patch）的方式，使得典型的目标检测模型不能够检测到图像中的物体，绕过目标定位。 大赛主办方、清华大学 AI 研究院基础理论研究中心主任、教授朱军认为：「目标检测对于自动驾驶等诸多领域具有重要的潜在应用价值，其安全问题需要引起更多的关注。此次目标检测攻击要求对目标的类别、位置等信息同时进行攻击，问题的复杂度更高也更有挑战。另外，本次竞赛采用了全新的设定，允许参赛这通过多块 patch 对目标进行攻击，进一步提高了问题的挑战性。我们鼓励参赛者能够发挥自己的创造性，提出有价值的解决方案。」 为了更好地评价选手的攻击效果，主办方创造了全新的得分计算准则。除了加入攻击成功率之外，还对添加补丁的数量和大小进行了约束。选手添加的补丁数量、修改的像素和模型识别到的 bounding box 越少，则代表攻击更加成功，得分则越高。为了保证比赛的难度，选取了 4 个近期的 State-of-the-art 检测模型作为攻击目标，包括两个白盒模型——YOLO v4 和 Faster RCNN 和另外两个未知的黑盒模型。 朱军教授认为，第四期比赛是个前沿热门领域，对抗补丁攻击的迁移性等课题仍未被深入研究。参赛选手挑战高难度目标检测攻击场景，除了获得宝贵经验，也可以进一步钻研，把在比赛中的一些经验和技巧转化为学术研究论文，实现工程实践和学术研究两不误。 三赛制简介 1.赛程安排：报名 9 月 2 日结束。 2.激励设置：挑战者计划第二季总奖金池为 200 万元，本期总奖金为 68000 元，更有近 10 万的奖品福利，奖励如下： 奖金：本期 6.8 万元。 Pioneering Award 奖：通过比赛发表高水平学术论文，前两位获得 1 万元奖励。 奇思妙想奖：阿里巴巴 20 周年限定勋章礼盒（奖励给思路有创意的同学，上不设限） 荣誉证书：前十名队伍和奇思妙想奖，都将获得阿里和清华共同颁发的顶级证书 线下颁奖：优秀队伍将受邀参加 10 月的 CIKM 会议，并在国际舞台担任 speaker 分享思路。 绿色通道：总成绩排名 Top20 的队伍，可获得阿里安全校招绿色通道。 线下特训营：TOP20 选手将获得差旅全包到阿里安全总部的游学机会。 比赛潮物福利：限定潮 T、手工黄铜酒杯、清新茶具、洋气香薰机、纯牛皮精英书包等。 邀请好友奖：邀请对应数量的同学报名比赛，将获得 59 元 - 759 元的精致礼物。具体玩法请到比赛官网了解（点击底部阅读原文）。 3.算力自由 - 服务器免费送！ 为满足选手因疫情在家服务器短缺的痛点，特发起「挑战者服务器免费送」活动。每两周公布一次排行榜（8 月 3 日、8 月 17 日、8 月 31 日），TOP 6 队伍将获得 1000 元的阿里云服务器代金券，可兑换购买任意服务器，助力大家比赛 666！ 4.参赛对象 面向全社会开放，高等院校、科研单位、互联网企业等人员均可报名参赛。 5.报名方式 请点击文章底部「阅读原文」直达报名。 福利 钉钉扫码加入对抗样本钉钉群，遇到同路人技术分享、交流答疑、红包礼物等福利不停 点击左下角底角「阅读原文」报名！阅读原文