人工智能对企业的潜在好处是巨大的。但是，由DataRobot委托进行的一项针对美国和英国企业的调查显示，那些潜在的利益可能会因隐藏的偏见而受到影响，这些偏见会损害品牌声誉和客户信任度。
　　
　　根据DataRobot公司日前发布的“2019年人工智能偏差状况”，接受调查的组织中有42％的组织表示非常担心组织中出现人工智能偏差。
　　
　　这个数字与DataRobot调查的另一个发现相吻合：38％的受访组织表示他们使用“黑盒”机器学习系统，这些系统无法深入了解其决策方式。
　　
　　苹果公司机器学习和人工智能战略高级副总裁John Giannandrea表示，人工智能偏见和黑盒系统的并置足以使企业对机器学习的方向提出质疑。
　　
　　“如果有人试图向你出售黑盒系统，而人们不知道它是如何工作的，或者不知道使用了什么数据来训练它，那么我将不信任它。”DataRobot公司引用了Giannandrea公司的调查报告说。
　　
　　该调查表明，组织已意识到潜在的陷阱，并正在积极努力减轻这种陷阱。DataRobot公司发现，有64％的调查受访者表示，他们对识别人工智能偏见的能力非常有信心。
　　
　　调查发现美国和英国公司之间存在一些有趣的差异。尽管英国公司比美国同行更关注机器学习算法中的“技术偏见”（分别为47％和34％），但调查表明，美国公司比英国公司更关注“紧急偏见”（35％）分别为22％）。
　　
　　调查将技术偏差定义为“由于技术限制而产生的偏差”（例如，使偏差持续存在的算法）。同时，紧急偏差是“当用户和系统设计之间存在偏差时，在使用系统时产生的偏差”（例如，只有看到的内容证实了一个已经持有的信念，而没有看到的内容冲突。）该调查还着眼于人类的偏见。
　　
　　DataRobot有一个理论，可以解决英国和美国公司在偏见方面的差异。该公司表示：“由于英国公司在更严格的监管环境下运作，因此他们可能对人工智能的技术方面更加谨慎。”
　　
　　调查发现，品牌声誉受损和客户信任度下降是与人工智能偏见相关的首要问题。但是调查还发现了其他问题，包括与个人道德观念不匹配、员工信任度下降以及法律处罚。
　　
　　该报告还发现，使用中的大多数人工智能系统（69％）是由第三方开发的。大约70％的组织使用人工智能来自动化少于20个业务功能，而19％的组织使用人工智能来自动化49个或更少的业务功能，而10％的组织将50多个业务功能自动化。
　　
　　总体而言，调查显示，很多企业正在部署的算法确实令人担忧，信任是能否接受这些系统的主要因素。
　　
　　DataRobot公司可信人工智能副总裁Ted Kwartler在新闻稿中说：“越来越多的企业开始部署人工智能，因为他们认识到该技术是当今商业环境中竞争的关键成功因素。尽管有这个事实，我们发现人工智能的成熟度差异很大，许多组织仍在使用不可信赖的人工智能系统。”

      编辑：Harris