首届人工智能安全大赛收官 决出三大冠军
以“共筑AI安全 安享智能未来”为主题的AISC首届人工智能安全大赛圆满落幕。
本次大赛由国家工业信息安全发展研究中心、清华大学人工智能研究院和北京瑞莱智慧科技有限公司等单位联合主办,系首个全国性人工智能安全赛事,共设置了人脸识别安全、自动驾驶安全、深度伪造安全三大核心赛道,旨在推动人工智能攻防技术创新、实战演练、场景挖掘和人才培养。试想一下,有人将一张“神奇的贴纸”放置在面部,就可以使人脸识别门禁系统误认为是你,从而轻而易举打开大门;同样是这张“神奇的贴纸”,把它放置在眼镜上,就可以1秒解锁你的手机人脸识别,探取你的隐私如入无人之境。这并非科幻大片的想象,而是首届人工智能安全大赛颁奖典礼现场展示的真实攻防场景。
人工智能和其他通用目的技术一样,在高歌猛进的同时,也带来了新的风险和隐患。主办方北京瑞莱智慧科技有限公司首席执行官田天认为,人工智能技术风险发生的范围正随着应用场景的日趋广泛而逐步扩大,风险发生的可能性也随着其应用频次的增长而持续提高。在他看来,人工智能当前的安全风险主要可以从“人”与“系统”这两个视角来剖析。从人的视角来评估AI的安全问题,首当其冲就是技术的两面性问题,存在AI滥用甚至“武器化”的问题。具体到人工智能的应用中来看,最为典型的代表就是深度伪造技术,它的负向应用风险持续加剧且已产生实质危害。
而现场的人脸识别破解演示,所揭示的正是系统的风险,它来自于深度学习算法本身的脆弱性。以深度学习算法为核心的第二代人工智能是个“黑盒子”,具有不可解释性,意味着系统存在结构性的漏洞,可能受到不可预知的风险,典型的就比如现场演示的“神奇贴纸”,其实就是“对抗样本攻击”,通过在输入数据中添加扰动,使得系统作出错误判断。
这一漏洞在自动驾驶感知系统同样存在,瑞莱智慧演示了用对抗样本攻击自动驾驶汽车。正常情况下,在识别到路障、指示牌、行人等目标后,自动驾驶车辆就会立即停车,但在目标物体上添加干扰图案后,车辆的感知系统就会出错,径直撞上去。
安全的本质在于对抗升级,构建安全需要一个持续攻防演进的过程。田天表示,大赛聚焦人工智能真实应用场景中的典型漏洞及风险,以赛促建、以赛促研,通过考核参赛队伍的漏洞发现、漏洞挖掘等能力,探索新型安全需求场景,推动AI攻防技术创新,为强化人工智能治理体系与安全评估能力建设提供支撑。
结合具体赛题来看,自动驾驶安全赛题和人脸识别安全赛题从攻击视角出发,通过让选手攻击目标模型挖掘算法漏洞,旨在发现更加稳定的攻击算法,以更好的实现准确评估模型的安全性。深度伪造安全赛题则通过分析伪造音视频的相似性,来溯源不同伪造内容是否来自同一种或同一类生物特征生成软件,以促进对深度伪造检测技术的发展,具有重要的现实意义。
构建人工智能的安全生态,一方面需要技术的持续演进,一方面也需要专项技术人才的建设与培养。田天表示,由于人工智能安全研究目前仍属于新兴领域,专项人才较少,缺乏系统性的研究队伍,本次大赛通过实战演练的方式,全方位验证和提升选手实战能力,为培育一批高水平、高层次的人工智能安全新型人才团队提供了“快速通道”。
据悉,自七月开启报名以来,大赛共吸引来自全国范围内70多所高等高校、科研院所、企业机构的超过400支团队,共计600余名选手的踊跃参与。经过三个月的激烈角逐,最终,上海交通大学联合战队“AreYouFake”与北京交通大学战队“BJTU-ADaM”分别摘得深度伪造安全与自动驾驶安全赛道桂冠,北京理工大学战队“DeepDream”与建信金科战队“Tian Quan&LianYi”共同位列人脸识别赛道第一名。此外,活动现场,由国家工业信息安全发展研究中心牵头,联合华为技术有限公司和北京瑞莱智慧科技有限公司共同撰写的《人工智能算力基础设施安全发展白皮书》正式发布。
白皮书围绕人工智能算力基础设施安全发展的意义、内涵与体系架构、安全管理现状、发展建议等方面展开深入研究。白皮书指出,人工智能算力基础设施不同于传统的算力基础设施,既是“基础设施”又是“人工智能算力”也是“公共设施”,具有基建属性、技术属性、公共属性三重属性。相应地,推动人工智能算力基础设施安全发展应从强化自身安全、保障运行安全、助力安全合规三个方面发力,通过强化自身的可靠性、可用性与稳定性,保障算法运行时的机密性与完整性,提升用户的安全管控力、认可度与合规性等八个领域筑牢人工智能安全防线,打造可信、可用、好用的人工智能算力底座,营造安全、健康、合规发展的人工智能产业生态。
相关阅读
-
首届人工智能安全大赛收官 决出三大冠军
以共筑AI安全 安享智能未来为主题的AISC首届人工智能安全大赛圆满... -
特斯拉有望在明年一季度开始生产电池 ...
9月14日消息,据国外媒体报道,特斯拉2019年确定建设的柏林超级工厂... -
韩国半导体出口同比增长近8% 芯片仍占...
9月13日消息,据国外媒体报道,韩国贸易、工业和能源部此前公布的数... -
2022年上半年智能汽车 净利同比增近2000%
近期,我国多家智能汽车供应链上市公司陆续公布了2022年中报,盖世... -
机器学习气味预测模型 以获得气味印象
目前,人们仅根据气味剂的物理化学特征来预测嗅觉印象。但是,该方... -
世界人工智能大会 自动驾驶AI多款产品亮相
近日,2022世界人工智能大会(WAIC)在上海拉开序幕。作为中国自动驾...
精彩推送
-
首届人工智能安全大赛收官 决出三大冠军
以共筑AI安全 安享智能未来为主题的AISC首届人工智能安全大赛圆满... -
竟暗藏交友功能 苹果iPhone查找功能可...
一直以来,苹果iOS系统都以体验流畅、无广告闻名,不过iOS也存在一... -
iPhone14和14Pro开卖没几天出现不小问题...
这iPhone 14 14 Pro才开卖没几天,已经出现了不小的问题,以至于... -
黄牛诉苦苹果14倒贴100元出 囤多一夜亏...
9月16日,三款iPhone 14系列机型正式发售,因为不少消费者都想拿到... -
iphone14及plus还用旧款A15芯片 业内人...
今年的iPhone 14、iPhone 14 Plus不仅外观设计与iPhone 13一样... -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">环球观焦点:人工智能技术与智慧医疗产...
未来,人工智能技术与智慧医疗产业的融合力度将不断加大,同时将进... -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">焦点观察:液氧煤油发动机成我国新一代...
液体火箭是以液体火箭发动机作动力装置的火箭。一般由动力装置、箭... -
【全球时快讯】新一代Arm Neoverse平台...
Arm近日宣布Arm®Neoverse™路线图再添新员,新产品植根于Arm的可扩... -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">当前视讯!OLED渗透率持续上升,三星显...
OLED显示屏是利用有机电自发光二极管制成的显示屏。由于同时具备自... -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">当前快讯:LG新能源放弃形电池开发,方形...
方形锂电池(Squarelithiumbattery)是一款电池,锂离子电池按外形分... -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">天天信息:在电池安全性方面,刀片电池的...
薄膜电池大致分为三类,第一类硅基类,由非晶硅、微晶硅、低温多晶... -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">当前报道:新能源汽车行业蓬勃发展发展前...
新能源汽车行业蓬勃发展,与之相关的配套设施需求量也不断攀升,尤... -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">时讯:三星SDI在明年,就将敲定直径46毫...
9月7日消息,2022世界新能源汽车大会上,三星SDI对外透露了其46系列... -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">今日热讯:目前市场上的曲面屏采用的是O...
今日早些时候,荣耀官宣将于9月15日19:30举行秋季新品发布会,届时... -
每日快讯!起火的长沙电信大楼,10天前刚...
结果还没等来中标和维修整改,长沙电信大楼就遭遇了一场大火…… -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">环球快资讯:新能源汽车是否真的环保<i...
新能源汽车之所以能够发展起来无外乎各国政府政策的支持,但更大的... -
天天新动态:2022网安周 | 新华三圆满...
9月6日,“长三角网络安全协同发展”论坛在2022国家网络安全宣传周(... -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">世界观点:覆盖全国6万+景区,高德打车A...
近日,有消息爆料称,高德推出了AR实景找车功能。用户在线上打完车... -
世界今日讯!携手并进,共谋新篇|新华...
9月7日,紫光股份董事长兼新华三集团首席执行官于英涛一行前往中国... -
【环球快播报】与变革同行,助力“数字...
·在中国品牌建设促进会、中国资产评估协会、新华社民族品牌工程办... -
每日快看:陕西移动与新华三集团举行战...
9月7日,紫光股份旗下新华三集团与中国移动通信集团陕西有限公司(以... -
每日快播:全志科技携手捷渡智能,共创...
本次战略合作的升级,意味着双方将建立长期、稳定、快速的合作交流... -
便宜到离谱黑车到底能不能买?买黑车犯...
没有任何合法手续证件但是价格却出奇的便宜遇到这样的二手车你会动... -
2021款宝马730li多少钱能落地?华晨宝马...
2021款宝马730li多少钱能落地?宝马 宝马7系新能源,730Li 豪华套装... -
要闻:烟台黄渤海新区智慧城市入选“202...
近日,由中国信息协会举办的“2022年数字政府论坛”上,“烟台黄渤... -
每日快播:大脑建模师:不要相信深度学习
过去20年间,深度学习通过一系列有效的商业应用在人工智能研究和项... -
环球今头条!软件供应链安全是推动网联...
网联汽车是汽车产业的变革趋势,软件与汽车行业深度融合,重塑产业... -
今日要闻!打破网络黑盒,新华三携手中国...
日前,中国移动联合新华三等ICT企业完成随流检测互通测试,此测试的... -
世界观察:绿洲之上丨智慧金融业务上云...
当前,北部湾银行加速拥抱数字化,加快完善IT架构,打造坚实的数字... -
资讯推荐:5G行业全面赋能我国经济社会的...
在北大荒5G数字农场,智能灌溉系统自动监测土壤和水位情况,定时定... -
美国总统乔拜登出席车展 进一步推广电...
据外媒报道,美国总统乔·拜登(Joe Biden)计划在当地时间9月14日出... -
LG新能源将停止方形电池开发 把重点放...
日前,据外媒消息,LG新能源将停止方形电池的开发,把重点放在现有... -
小巨人爆发大能量 专精特新企业赋能南...
南京聚焦2+2+2+X创新型产业体系,以培育自主品牌本土企业为目标,引... -
河北农业大学师生 把科技送到田间地头
研究好坝上农业节水的途径与技术路线的设计,服务地方经济发展,这... -
显卡挖矿时代正式终结 号称可以节约全...
随着以太坊2 0的正式升级,显卡挖矿的时代正式终结了,号称可以节... -
冬季即将到来欧洲面临压力居民取暖设备...
随着冬季的即将带来,饱受能源问题困扰的欧洲面临压力,当地的居民... -
天文科学教育 培养更多青少年仰望星空
天文学是进行科学教育最好的切入点。它从远古时代就激发着人类的好... -
另辟蹊径培养地矿环境类人才 西南科大...
从2005年至今,西南科技大学环境与资源学院培养出了全国一半多的建... -
新品种楚粳48号通过国家审定 实现西南...
记者近日从云南省楚雄州农科院了解到,由该院选育的粳稻软米新品种... -
德国巴斯夫要来中国的广东省建厂 出手...
相信各位朋友都听说了,德国巴斯夫,要来中国的广东省建厂了。而且... -
数据库覆盖50万平方千米横断山区28904个...
在四川德昌县乐跃镇群发性泥石流中,山地灾害风险模拟与险情预报系... -
创新合作与粮食安全 第29届中国杨凌农...
9月15日,以创新·合作与粮食安全为主题的第29届中国杨凌农业高新科... -
【天天新视野】紧抓5G行业的新机遇,构...
当前,全球5G发展正处于规模建设和商用的关键时期,我国5G发展也正... -
高端智能电动车品牌 品牌迈向全面高端...
9月15日,埃安发布品牌全新LOGO——AI神箭,并推出全新高端品牌Hype... -
8月新能源物流车销量同比增长84% 环比增长17%
本文重点:1、8月新能源物流车销量同比增长84%、环比增长17%。2、吉... -
硬盘到底分不分区 老生常谈的问题回顾经典
今天要聊的依然是一个老生常谈的话题:硬盘到底分不分区。其实我们... -
NVIDIA宣布 将在北京时间9月20日晚23点...
NVIDIA此前已经宣布,将在北京时间9月20日晚23点的GTC图形技术大会... -
海南免税版iPhone14系列价格出炉 网友...
9月16日,今天苹果正式开卖iPhone 14手机,如果你之前提前预订了首... -
显卡崩盘开始 零售商对NVIDIA、AMD大降...
以太坊执行层(即此前主网)与权益证明共识层(即信标链)于区块高度155... -
分析师称5G手机全球出货量现在已经超过4...
据一位分析师称,在第一批主流5G手机如三星Galaxy S10 5G推出仅三... -
耐克公司在伦敦旗舰零售店测试机器人 ...
耐克公司正在其伦敦的旗舰零售店测试一种机器人,该机器人旨在清洁... -
环球焦点!5G技术是我国经济社会发展不...
今年年初,北京冬奥会“冰雪之约”让无数观众感受到了8K超清视频的... -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">环球今热点:数字医疗使医学进入了一个...
数字医疗是把现代计算机技术、信息技术应用于整个医疗过程的一种新... -
观察:大力推进智慧安防应用,筑牢安全...
安全是公园运营的基础和保障。面对复杂的公园,传统的安全变得越来... -
原创" target="_blank" class="ellipsis-1" style="color: #444;font-size: 17px;">【世界独家】提供“全方位全周期”健康...
伴随生活水平提升、工作压力加大,以及餐饮、睡眠等生活节奏不规律... -
当前头条:培养“新工科”人才 | 安徽...
为响应国家关于加强学校和企业合作的号召,充分发挥学校与企业双方... -
当前信息:Molex与贸泽联手推出射频连接...
2022年9月15日–专注于引入新品的全球半导体和电子元器件授权分销商... -
每日讯息!Luminar任命前哈曼高管负责领...
前哈曼国际大中华区总裁陈钰将推进Luminar关键生产项目和业务增长 -
讯息:e络盟全球播客节目《创新专家》第...
《创新专家》播客第二季将分享全球知名行业专家的观点,以揭示推动... -
天天速递!Blaize与智邦科技合作,为人...
加利福尼亚州埃尔多拉多山-2022年9月14日Blaize®今天宣布与网络和... -
2022 WAIC | 滴普科技连续三年入选 ...
9月1日—3日,2022世界人工智能大会(WAIC)在上海召开,AI商业落地... -
大众汽车dsg问题怎么回事?大众汽车dsg...
大众汽车dsg问题怎么回事?在大众的DSG问题上,普遍认为采用了干式双... -
6sigma绿带证书有用吗?6sigma绿带证书是什么?
6 sigma绿带证书有用吗?六西格玛绿带证书可以在企业做项目管理,项... -
科技专项为抗击疫情提供支撑 抗疫科研...
9月14日,记者从兰州大学第一医院(以下简称兰大一院)了解到,由李汛... -
天天最资讯丨Sumo Logic通过可靠性管理...
SumoLogic可靠性管理为企业领导者提供关键数据,以平衡创新速度和服... -
世界热点评!智慧医疗迎全新发展阶段伴...
健康是经济社会发展的基础条件,是民族昌盛和国家富强的重要标志,... -
【世界速看料】路虎的外观,特斯拉的内核
从外观上看,新款路虎卫士与之前征服过非洲内陆并撼动汽车制造业的... -
我国首套自主研发深水油气水下生产系统...
北京9月14日,随着位于我国南海莺歌海的东方1-1气田东南区乐东块开... -
消费品工业筑牢实体经济根基 成为满足...
党的十八大以来,我国消费品工业规模和综合实力显著增强、生产供给... -
中国这十年系列主题发布会 住建部建大...
9月14日,在中宣部举行的中国这十年系列主题发布会上,住建部副部长... -
自动驾驶系统的高度复杂性 注定其商用...
自动驾驶系统的高度复杂性,注定了其商用之路将是一个漫长的过程。... -
巴基斯坦汽车制造商协会发布数据 8月该...
据外媒报道,由于物价上涨抑制了消费者的需求,而且该国的进口限制... -
奥迪预计汽车生产不会受天燃气短缺影响...
据外媒报道,奥迪首席执行官Markus Duesmann预计,尽管当前地缘政... -
理想汽车总裁沈亚楠五天抛售100万股 套...
根据港交所文件显示,理想汽车执行董事兼总裁沈亚楠于今年9月6日抛... -
沃尔沃公司正在开始批量生产重型电动卡...
据外媒报道,瑞典卡车制造商沃尔沃卡车在9月14日表示,该公司正在开... -
韩美两国解决围绕美国电动汽车补贴新法...
据外媒报道,韩国首席贸易谈判代表透露,韩国和美国正在加紧努力,... -
特斯拉有望在明年一季度开始生产电池 ...
9月14日消息,据国外媒体报道,特斯拉2019年确定建设的柏林超级工厂... -
SK集团计划明年在韩国投资73万亿韩元中...
9月14日消息,据国外媒体报道,韩国资产规模第二大的企业集团SK,已... -
苹果计划成为明年首家使用台积电升级版3...
9月14日消息,据国外媒体报道,知情人士表示,苹果计划成为明年首家... -
三星有望获得更多高端iPhone14OLED面板...
9月14日消息,据国外媒体报道,苹果的面板供应商三星显示,有望获得... -
环球速讯:中国新能源汽车进入市场化高...
中国新能源汽车进入市场化、高质量发展新阶段,也面临风险和挑战,... -
环球焦点!健康产业数字化想要真正惠及...
健康产业数字化想要真正惠及全民,不可能仅靠专业医疗机构的革新,... -
【速看料】可推行的新能源汽车发展的时...
随着时代的不断发展和进步,现在有了很多东西已经超乎人们的想象,... -
焦点热门:智慧医疗规范化了全民健康促进...
健康促进平台的搭建,规范化了全民健康促进体系,实现了政府部门与... -
环球今热点:软件定义汽车的时代将会来...
智能网联汽车是新一代通信技术、电子信息技术和人工智能技术与传统... -
实时:ITT CANNON VEAM正式授权倍捷连...
(珠海,中国——2022年8月22日)由ITTVEAM意大利公司正式授权,全... -
全球实时:自动驾驶技术发展得如火如荼
AI赋能,影响未来社会。以交通运输为例,自动驾驶技术发展得如火如... -
每日播报!LeddarTech因其原始数据传感器...
魁北克市,Aug 31,2022(GLOBENEWSWIRE)--提供最灵活、最强大和最准... -
通讯!Meco Limited宣布推出全球首款先...
伦敦,Aug 31,2022(GLOBENEWSWIRE)--MecoLimited(Mecobit)于2020... -
汽车出口许可证是每次都要办吗?出口汽...
汽车出口许可证是每次都要办吗?汽车出口许可证的是每次都要办的。出... -
20万以内suv哪款好?20万左右SUV哪个性...
20万费用预算买SUV,大部分便是在哪一堆紧凑SUV里边挑选,而正好紧... -
雅马哈电动车报价是多少?雅马哈电动车...
雅马哈电动车报价是多少?雅马哈电动车一般在2260-3900元之间雅马哈... -
雅马哈迅鹰停产了吗?雅马哈迅鹰125质量...
雅马哈迅鹰停产了吗?没有停产。 雅马哈迅鹰这款车并没有停产,目前... -
evo9是哪年出的?evo9和evo10区别?为什...
evo9是哪年出的呢?下面小编就告诉大家吧2005年-2007年 搭配4G63发... -
【全球独家】亚马逊云科技为Amazon Sag...
北京——2022年9月14日,日前,亚马逊云科技为其机器学习数据标注服... -
Twitter公司多数股东支持将公司出售给埃...
据外媒报道,知情人士在9月12日透露,Twitter公司的大多数股东已经... -
Cruise公司计划扩大自动驾驶打车服务范...
据外媒报道,通用旗下的自动驾驶部门Cruise首席执行官Kyle Vogt在9... -
韩国半导体出口同比增长近8% 芯片仍占...
9月13日消息,据国外媒体报道,韩国贸易、工业和能源部此前公布的数... -
日产俄罗斯工厂停工时间将延长三个月至1...
据外媒报道,日本汽车制造商日产在9月12日表示,该公司位于俄罗斯圣... -
显卡马上就崩盘?新版显卡曝光售价给力N...
近期如果有人要装机,我在这里只能劝您一句:冷静!因为显卡马上就崩...