CSIRO的Data61开发了针对机器学习攻击的疫苗
联邦科学与工业研究组织(CSIRO)的Data61宣布,它的研究人员已经开发出一套提供算法的技术,这些算法可以抵抗各种类型的对抗攻击。
Data61称其为有效的"疫苗",它说,保护人工智能(AI)和机器学习算法免受对抗攻击的技术能力是机器学习研究的一个重大进步。
根据该科学组织的数字手臂,算法从他们训练的数据中"学习",创建一个机器学习模型,可以有效地执行给定的任务,而不需要特定的指令。例如,预测或准确分类图像和电子邮件——目前用于识别垃圾邮件、诊断x射线疾病和预测作物产量的技术。
Data61说,这种技术很快就能用于汽车。
参见:人工智能和机器学习如何帮助企业抵御网络攻击
Data61机器学习小组的负责人理查德·诺克博士说,通过在图像上添加一层噪声——比如一个对手——攻击者可以欺骗机器学习模型,使其对图像进行错误分类。
他说:"对抗性攻击已被证明能够欺骗机器学习模型,使其将交通停止标志错误地标记为速度标志,这在现实世界中可能造成灾难性的影响。"
"我们实现一个弱版本的对手,如小修改或失真的图像集合,创建一个更困难的训练数据集,该算法是训练数据接触少量的变形,得到的模型更健壮和免疫对抗攻击。"
Data61说,由于疫苗接种技术是建立在可能出现的最糟糕的对抗案例基础上的,因此从理论上讲,它们应该能够抵御非常强大的攻击。
同时阅读:为什么人工智能和ML不是网络安全解决方案——至今(TechRepublic)
Data61首席执行官艾德里安·特纳表示:"人工智能和机器学习可以帮助解决世界上一些最大的社会、经济和环境挑战,但如果没有对这些技术的集中研究,这一切都无法实现。"
"Data61开发的对抗攻击的新技术将引发机器学习研究的新方向,并确保变革性人工智能技术的积极应用。"
在此之前,Data61于去年11月向一个人工智能和机器学习未来科学平台投资1900万澳元,旨在为食品安全和质量、健康和福祉、可持续能源和资源、弹性和有价值的环境、澳大利亚和地区安全等领域提供有针对性的人工智能驱动的解决方案。