GeekPwn大赛又出新招,各路极客在AI之眼下实现“隐身”

  • 时间:
  • 浏览:0
  • 来源:大发uu快3_uu快3最新网站_大发uu快3最新网站

精密识别下挖到“AI障眼法”; AI监视之下一展“隐身术”!在10月24日于上海举办的GeekPwn国际安全极客大赛的现场,一众黑客与AI针锋相对,再度技惊四座,为观众呈现了一系列扣人心弦的人工智能攻破挑战。霍金教

精密识别下挖到“AI障眼法”; AI监视之下一展“隐身术”!在10月24日于上海举办的GeekPwn国际安全极客大赛的现场,一众黑客与AI针锋相对,再度技惊四座,为观众呈现了一系列扣人心弦的人工智能攻破挑战。

霍金教授生前曾预言:人工智能崛起要么是人类最好的事情,要么只是最糟糕的事情。正如任何事物都具备的两面性,AI勾勒出令人向往未来的共同,其带来的安全威胁只是可能 是人类从未面临过的。作为全球首个探索人工智能与专业安全的平台,GeekPwn2019继续对AI安全展开了探索。

高精度图像识别AI缘何“指鹿为马”?

AI技术的发展,让我脸识别技术备受青睐,“刷脸”目前不可能 被应用到了大每段领域。ATM机上的刷脸取款、自动售货机的刷脸购物等等。相比于肉眼识别,AI人脸识别我我人太好可不都可不还可以 大幅度提高识别精度。大范围的应用普及似乎赋予了AI“至高无上的权利”,然而,在极客眼中,它们并不一定可不都可不还可以做到万无一失,甚至会将肉眼可不都可不还可以轻松识别的事物完整性错认。

作为GeekPwn大赛的重头戏,此次CAAD CTF图像对抗样本攻防赛为选手提供了另八个 挑战:定向攻击,非定向攻击,并攻击知名人脸识别服务,其中非定向攻击要求选手通过一张对抗性图片欺骗三组开源分类器,定向攻击则要求选手利用一张对抗图片让开源分类器将图片错认为某一固定事物,而人脸识别攻击则要求选手对三款人脸识别服务发起挑战。通过长达三轮预选赛的激烈角逐,共有六支战队来到GeekPwn舞台决赛现场。

CAAD图像CTF各战队展开角逐

在比赛中,来自清华大学的TSAIL战队首先在“非定向识别”、“定向识别”前两项任务中取得高分,并在难度最高的第三项“人脸识别攻击”挑战中成功欺骗图像分类器,让Clarifai人脸识别系统将黄健翔识别成伊万卡,我人太好置信度很低,但依照比赛规则,选手攻破成功!最终TSAIL战队以最高229.77的总得分,获得CAAD图像CTF项目冠军。

在AI之眼下实现隐身时要分几步?

或许是和珍俱来的猎奇心态,亦或是对未能实现事物特有的憧憬,亲戚朋友对于“隐身”这项能力似乎有着独特的情结,而你是什么情结也在诸多影视作品中演绎得淋漓尽致:哈利波特中“隐形斗篷”;神奇四侠中的“隐形女神”苏珊斯通,蝙蝠侠中的超级反派暗影绅士……在GeekPwn2019的舞台上影视桥段中的“超能力”成为了现实。CAAD隐身挑战赛中,选手仅通过A4纸便在AI的监视下成功实现了“隐身”。

根据“CAAD隐身挑战赛”的规则,评委现场指定两款标准算法模型,两种 算法可不都可不还可以 从视频或图像中进行目标检测识别人体的指在。而选手们则时要在规定时间内,通过总面积不超过一张A4大小的对抗图片来遮挡身体,并在现场接受算法的实时检测,不可能 算法模型识别找不到人的指在且结果维持10s以上,则挑战成功。

CAAD隐身挑战赛选手让现场观众实现“隐身”

在比赛现场,Hiding Cat、NISLer、TSAIL三支战队选手通过打印多张“图像对抗样本”,并让现场观众将样本举在胸前,成功躲过了检测系统的识别完成挑战。三组选手的成功挑战检测距离均为1米,其中TSAIL战队使用的纸张面积最小,仅为196平方厘米。值得一提的是,此次比赛选手完整性攻破的是被视为“目标检测网络的巅峰之作”的YOLOv3系统。

全新推出的CAAD隐身挑战赛对于AI安全来说有着极高的现实意义,在对抗样本的作用下,活生生的人可不都可不还可以 在镜头下实现“隐身”,犯罪分子甚至可不都可不还可以 逃避执法机关的追捕,成为行走在镜头下的“危险隐形人”!

此次GeekPwn2019 CAAD系列比赛,为亲戚朋友呈现叹为观止的攻破挑战的共同,也为当下“大红大紫”的AI技术安全性敲响了警钟,一旦对抗样本在已经 真实环境下被滥用,便很有不可能 造成极为严重的后果。

在人工智能与大众的生活如此近的今天,前沿技术的安全性研究时要引起更为广泛的重视,保障亲戚朋友在享受科技的共同规避其高速发展带来的风险。GeekPwn自创办以来便总爱专注于智能生活与专业安全,为大众带来极具脑洞的破解展示,并向厂商提交近千个漏洞,让更多的人关注到前沿安全的重要性,让亲戚朋友的未来生活更加安全。

(本内容属于网络转载,文中涉及图片等内容如有侵权,请联系编辑删除)