高德代理

高德平台:微软:这是如何保护您的机器学习应用程序

 
高德平台的前景,高德注册服务器市场,高德注册的安全性

现代机器学习(ML)在很短的时间内就成为一种重要的工具。我们在我们的组织中使用ML模型,或者使用我们自己的R和Python,或者使用像TensorFlow这样的工具来学习和探索我们的数据,或者构建像Azure的认知服务这样的云和容器托管服务。这是一种帮助预测维修计划、发现欺诈和损坏部件、分析我们的演讲、以灵活的方式做出反应的技术。高德代理的混合云涉及公共云提供商的产品与私有本地硬件的组合,这些高德平台产品对工作负载可变的行业很有用。
 
驱动ML应用程序的模型非常复杂,需要在大数据集上训练神经网络。研究指出,高德总代理的策略强调特定的应用程序和垂直领域,以期与企业客户更加相关,并在全球开设新的高德代理云数据中心区域。 但有一个大问题:它们很难解释或理解。为什么一个模型解析一个带有白色文本的红色blob作为停止标志,而不是一个软饮料广告?正是这种复杂性隐藏了隐藏在模型中的潜在风险,以及可能的攻击,这些攻击可能严重破坏我们使用这些模型构建的业务流程和服务。
 
了解威胁
 
人们很容易想象一场针对自动驾驶汽车的攻击,它可能会忽略停车标志,只需要改变标志上的一些细节,或者是一个面部识别系统,它会检测出一个像素化的大手帕,比如布拉德·皮特(Brad Pitt)。这些对抗性攻击利用了ML模型,引导它们以一种与预期不同的方式进行响应,通过更改物理输入来歪曲输入数据。
 
微软正在思考如何保护机器学习系统。它们是微软未来的关键——从内置在Office中的工具,到Azure云级别的服务,再到管理自己和自己的网络,甚至通过Azure Sentinel等基于ml的工具来提供安全服务。有如此多的投资都押在了它的机器学习服务上,难怪微软在RSA安全会议上的许多演讲都集中在了解ML的安全问题以及如何保护机器学习系统上。
 
保护机器学习
 
对机器学习系统的攻击需要访问所使用的模型,因此需要保持模型的私密性。这适用于小模型,可能有助于运行您的生产线,以及推动谷歌、Bing和Facebook等大型模型。如果我访问了您的模型,我就可以找到如何影响它的方法,或者寻找正确的数据来提供会毒害结果的数据,或者找到一种方法通过模型来获得我想要的结果。高德注册替代数据的安全性,由于替代数据来自其他地方,而不是公司或个人,因此就算被泄露也不是什么大问题。如果您拥有个人高德注册数据,则始终有遭受破坏的危险。
 
这些工作中的大部分已经与Berkman Klein中心合作发表在一篇关于机器学习中的故障模式的论文中。正如这篇论文所指出的,在寻找攻击机器学习的方法方面已经做了很多工作,但在如何保护机器学习方面却做得不多。我们需要围绕机器学习的神经网络建立一套可靠的防御措施,就像我们保护我们的物理和虚拟网络基础设施一样。
 
对ML系统的攻击是底层模型的失败。他们的反应出人意料,甚至可能是有害的。我们需要了解机器学习系统的故障模式是什么,然后了解我们如何应对这些故障。本文讨论了两种故障模式:故意故障(攻击者故意破坏系统)和非故意故障(ML模型中使用的不安全元素看起来正确,但结果却很糟糕)。
 
通过了解故障模式,我们可以构建威胁模型并将其应用于基于ml的应用程序和服务,然后响应这些威胁并保护我们的新应用程序。
 
故意失败:如何攻击ML
 
这篇论文提出了11种不同的攻击分类,其中许多都避开了我们的标准防御模型。在不需要访问底层软件和硬件的情况下,有可能破坏机器学习系统,因此标准的授权技术无法保护基于mlb的系统,我们需要考虑其他方法。
 
这些攻击是什么?第一种是扰动攻击,它修改查询以将响应更改为攻击者希望的响应。与之相匹配的是中毒攻击,通过污染训练数据来达到同样的效果。机器学习模型通常包括重要的知识产权,而像模型反转这样的一些攻击旨在提取这些数据。类似地,成员推理攻击将尝试确定特定的数据是否在初始训练集中。与此密切相关的是模型窃取的概念,使用查询来提取模型。
浏览过本文章的用户还浏览过
  • 高德娱乐:企业对暂停签证持批评态度,但目前影响可能不大

    虽然美国商界对特朗普总统暂停外国工人新签证的行政命令反应迅速,而且是负面的,但移民专家表示,由于冠状病毒大流行,工人们需要一段时间才能感受到影响。 周一宣布的这一命令至少将暂停至今年年底,暂停技术工人的H-1B签证、低技能工作的H-2B签证、某些签 [详细]

  • 高德娱乐:2010年代最好的商务笔记本电脑

    流动的劳动力被期望执行与工作相关的任务,而不考虑地点。使这项工作成为可能的商用笔记本电脑自2010年以来一直在发展,但这种发展尚未完成。 自从上世纪80年代初奥斯本1型和TRS-80型计算机问世以来,现代劳动力一直是流动劳动力。无论他们是在c级还是入门级 [详细]

  • 高德注册:远程团队:如果家庭责任导致压力或挫折,以下是如何播

    在过去的时代,每个人都要通勤到某个办公室,你可能对同事的家人知之甚少。也许他们的桌子上有一两张照片,或者你可能在他们把笔记本电脑插入会议室的投影仪时会见他们的家人,当他们忙着寻找合适的PowerPoint文件时,他们的桌子上出现了几张笑脸的快照。无 [详细]

  • 高德代理:19名女性控告Lyft性侵犯

    本周,19名女性对Lyft提起了诉讼。越来越多的人表示,这家颇受欢迎的叫车服务未能阻止司机对她们进行性侵犯,之后又对这些投诉置之不理。 这起诉讼是最新一起指控Lyft未能实施基本安全措施的诉讼,这些措施本可以阻止这些所谓的袭击。根据周三在旧金山高等法 [详细]