18, 9月 2022
瑞莱智慧田天:人工智能技术风险正随着应用场景日趋广泛而逐步扩大

瑞莱智慧田天:人工智能技术风险正随着应用场景日趋广泛而逐步扩大

蓝鲸TMT频道9月16日讯,AISC首届人工智能安全大赛落幕,北京瑞莱智慧科技有限公司首席执行官田天在致辞中表示,人工智能技术风险发生的范围正随着应用场景日趋广泛而逐步扩大,风险发生的可能性也随着其应用频次增长而持续提高。“构建人工智能的安全生态,一方面需要技术的持续演进,一方面也需要专项技术人才的建设与培养。”

据介绍,首届人工智能安全大赛由国家工业信息安全发展研究中心、清华大学人工智能研究院和北京瑞莱智慧科技有限公司等单位联合主办,系首个全国性人工智能安全赛事,旨在推动人工智能攻防技术创新、实战演练、场景挖掘和人才培养。

自七月开启报名以来,大赛共吸引来自全国范围内70多所高等高校、科研院所、企业机构的超过400支团队,共计600余名选手参与。最终,上海交通大学联合战队“AreYouFake”与北京交通大学战队“BJTU-ADaM”分别摘得深度伪造安全与自动驾驶安全赛道桂冠,北京理工大学战队“DeepDream”与建信金科战队“Tian Quan&LianYi”共同位列人脸识别赛道第一名。

田天表示,通过本次大赛的赛题设置以及所有选手的提交发现人工智能安全问题具有以下三个非常典型的新的特点:一是人工智能技术溢出效应强,因此风险更为普遍;二是技术复杂程度高,风险更难被察觉;三是人工智能安全战略意义逐步凸显,风险维度在增加。

田天认为,推动人工智能产业发展过程中必须要去协调人工智能的发展与安全,为了实现这一目标人工智能发展需要去具备三大核心能力:关注人工智能相关的数据安全问题,关注人工智能的算法可靠,保证技术真正应用安全可控。

安全的本质在于对抗升级,构建安全需要一个持续攻防演进的过程。田天表示,大赛聚焦人工智能真实应用场景中的典型漏洞及风险,以赛促建、以赛促研,通过考核参赛队伍的漏洞发现、漏洞挖掘等能力,探索新型安全需求场景,推动AI攻防技术创新,为强化人工智能治理体系与安全评估能力建设提供支撑。

大赛期间,由国家工业信息安全发展研究中心牵头,联合华为技术有限公司和北京瑞莱智慧科技有限公司共同撰写的《人工智能算力基础设施安全发展白皮书》发布。