机器学习模型受到攻击将产生严重的后果，但如果对这一情形提前预防呢?就像人类针对即将到来的病毒去接种疫苗一样。据澳大利亚联邦科学与工业研究组织(CSIRO)官方网站消息，该机构的一个研究团队，日前开发了一套人工智能(AI)最新算法，可帮助机器学习抵御可能遇到的干扰。
机器学习是人工智能的核心，也是使计算机具有智能的根本途径。机器学习主旨是让计算机去模拟或实现人类的学习行为，以获取新的知识或技能，并重新组织已有的知识结构，使之不断改善自身的性能。
机器学习虽然可以在大数据训练中学到正确的工作方法，但它也很容易受到恶意干扰。通常攻击者是通过输入恶意数据来“欺骗”机器学习模型，导致其出现严重故障。
此次，开发出新算法的研究团队——“Data61”机器学习小组领导者理查德·诺克表示，攻击者会在进行图像识别时，在图像上添加一层干扰波，达到“欺骗”的目的，从而让机器学习模型产生错误的图像分类。
诺克及其团队成员研发的新算法，通过一种类似疫苗接种的思路，可以帮助机器学习“修炼”出抗干扰能力。这是针对机器学习模型打造的防干扰训练，譬如，在图片识别领域，该算法能够对图片集合进行微小的修改或使其失真，激发出机器学习模型“领会”到越来越强的抗干扰能力，并形成相关的自我抗干扰训练模型。
经过此类小规模的失真训练后，最终的抗干扰训练模型将更加强大，当真正的攻击到来之时，机器学习模型将具备“免疫”功能。
总编辑圈点
用小伎俩干扰机器对图像的识别，这种手段已经应用在网络黑产中。人眼看起来并无明显区别的图片，覆上一层专门针对机器的干扰波，就能让机器的判断大失水准。所谓接种疫苗，其实也就是“以毒攻毒”，让机器先见识已经被微小修改的图片，并在训练中自我学习，从而最终能识破这层恶意干扰，揭开图片的庐山真面目。机器的学习功能是强大的，教会它应对方法，它便能自我完善。但攻击与防御总是相伴相生，这是一场没有尽头的技术博弈。(张梦然)
标签:最近更新
- 最新：宁夏首条高铁5G网络全线开通2023-01-09
- 5项数字化转型国家标准正式立项2023-01-09
- 漯河联通“六抓六促”推广党建负责人工作法2023-01-09
- 【速看料】泰安移动开展“四个一”抓实抓牢节前廉洁教育2023-01-09
- 我国大数据产业规模达1.3万亿元复合增长率超30%2023-01-09
- 宿州移动警企联动“重拳打猫”再添战果2023-01-09
- 焦点热议:中国联通故障中心平台及网络智能运维机器人系统获“优秀级”认证2023-01-09
- 浙江联通实现省内重点城市“一市一池”全覆盖|焦点快看2023-01-09
- 苹果服软！iPhone 15曝光：全系标配USB-C、灵动岛 Pro版还有钛合金2023-01-09
- 每日观察!未来要取代iPhone！苹果AR/VR头戴设备将春季发布：原型机已发放2023-01-09
- 快看：“天灾加人祸”，特斯拉的好日子到头了？2023-01-09
- 【全球热闻】支付宝2023年“集五福”来了 网友：两块钱的大项目2023-01-09
- 全球今头条！马斯克承诺成空谈！推特被裁员工仅获1个月工资补偿2023-01-09
- 微软Xbox老大斯宾塞盛赞索尼：无障碍手柄是对PS生态很好的补充2023-01-09
- 每日资讯：暴雪网易复合几乎不可能：不会降低标准 正和新代理谈的火热2023-01-09
- 苹果砍单“链条”受过 “果链”上市公司另寻出路2023-01-09
- 天天热资讯！紫辉创投郑刚再呛罗永浩：多次退出锤子科技股东群，用新公司股权要挟投资人放弃基本权利2023-01-07
- 投资人炮轰罗永浩“势利眼”，曾参与锤子科技两轮融资，称其是中国乔布斯|全球通讯2023-01-07
- 天天观点：罗永浩发文回应投资人郑刚2023-01-07
- 罗永浩回应郑刚炮轰：锤子每年都开股东会，新公司已给老股东股权补偿2023-01-07
- 蚂蚁集团股东上层结构调整、马云不再为实控人，继续强化与阿里的隔离_全球新要闻2023-01-07
- 二叠纪大灭绝期间紫外线辐射增加？化石花粉粒中“防晒霜”添证据|全球快资讯2023-01-07
- 湖北西部秭归盆地首次发现侏罗纪中期恐龙足迹化石-环球讯息2023-01-07
- 观察：蚂蚁集团大动作！马云退出实控人位置，股东投票权进一步分散，拟引入第五名独董2023-01-07
- 罗永浩回应投资人“炮轰”：郑刚对我的评论毫无事实基础-环球快报2023-01-07
- 网传马云现身曼谷：吃路边摊看泰拳比赛 还上阵打了一通2023-01-07
- 投资人郑刚炮轰罗永浩 全球快看2023-01-07
- 全球实时：蚂蚁强化与阿里隔离 马云股份表决权变了2023-01-07
- 刚刚，蚂蚁集团发布重要公告！_环球快播2023-01-07
- 锤子手机投资人、紫辉创投创始人郑刚深夜炮轰罗永浩：不懂感恩2023-01-07