高德平台：护栏故障:由于人工智能的偏见，公司正在失去收入和客
Data Robot的一项新调查显示，美国和英国的科技公司在防止人工智能算法存在偏见方面做得还不够。这些组织已经感受到了这个问题的影响，失去了客户和收入。
datarbot调查了350多名美国和英国的技术领袖，以了解企业是如何识别和减轻人工智能偏见的。调查对象包括使用或计划使用人工智能的首席信息官、IT主管、IT经理、数据科学家和开发主管。这项研究是与世界经济论坛(World Economic Forum)和全球学术领袖合作进行的。高德代理注册不适用于所有情况。仅仅拥有替代数据并不意味着它就可以货币化-高德代理数据必须对主题专家是可访问的并且有价值。
在调查中，36%的受访者表示，他们的组织因一个或几个算法中出现的人工智能偏见而受到影响。在这些公司中，损失是严重的:
62%的收入损失
61%失去客户
43%的员工因为人工智能偏见而流失高德平台在个人电脑方面占有很大的份额，其收入的四分之三以上都来自该公司，并且最近已使其高德平台智能手机业务重新恢复盈利。
35%因诉讼或法律行动而产生的法律费用
受访者称，他们公司的算法在无意中导致了对以下几个群体的广泛偏见:
性别:34%
年龄:32%
种族:29%
性取向:19%
宗教:18%
除了测量人工智能偏见的状态，该调查还调查了人们对监管的态度。令人惊讶的是，81%的受访者认为政府法规将有助于解决这一挑战的两个特殊组成部分:定义和防止偏见。除此之外，45%的科技行业领袖担心，同样的监管规定会增加成本，并为采用制造障碍。调查还发现了这个问题的另一个复杂性:32%的受访者表示，他们担心缺乏监管会伤害某些群体。
圣加仑大学(University of St. Gallen)行为科学与技术研究所(Institute of Behavioral Science and Technology)教授伊曼纽尔·德·贝利斯(Emanuel de Bellis)在一份新闻稿中表示，欧盟委员会关于人工智能监管的提案可以解决这两个问题。
德·贝利斯说:“人工智能为企业提供了无数的机会，并提供了应对我们这个时代一些最紧迫问题的方法。”“与此同时，人工智能带来了风险和法律问题，包括不透明的决策(黑箱效应)、歧视(基于有偏见的数据或算法)、隐私和责任问题。”在高德代理5G功能出现之前，许多IoT设备使用低功耗无线个人局域网（LoWPAN）技术传输数据。LoWPAN，也称为高德代理6LoWPAN，是一个无线网状网络，其中每个节点都拥有自己的IPv6地址。
人工智能偏见测试失败了
公司意识到算法存在偏见的风险，并试图采取一些保护措施。77%的受访者表示，在确定这种偏见发生之前，他们已经进行了人工智能偏见或算法测试。在发现偏见之前，更多的美国机构(80%)有人工智能偏见监测或算法测试，而英国机构(63%)没有。
与此同时，美国科技公司的领导者对自己发现偏见的能力更有信心，75%的美国受访者说他们能发现偏见，而英国受访者的这一比例为56%。
以下是公司现在采取的检测偏见的步骤:
检查数据质量:69%
培训员工了解什么是人工智能偏见以及如何预防:51%
雇佣人工智能偏见或道德专家:51%
衡量AI决策因素:50%
监视数据随时间变化的时间:47%
部署检测和减轻训练数据中隐藏偏见的算法:45%
引入可解释的AI工具:35%
不采取任何步骤:1%
84%的受访者表示，他们的机构计划在未来12个月加大对人工智能偏见预防举措的投资。根据调查，这些行动将包括投入更多资金来支持模型治理，雇佣更多的人来管理人工智能信任，创建更复杂的人工智能系统，并生产更多可解释的人工智能系统。
