摘要：如今，术语中有趣的变化之一是机器学习（ML）的含义。早在20世纪80年代，机器学习几乎完全涉及专家系统和深度学习（DL）的人工智能工具。

      如今，术语中有趣的变化之一是机器学习（ML）的含义。早在20世纪80年代，机器学习几乎完全涉及专家系统和深度学习（DL）的人工智能工具。随着计算机性能的大幅提升，商业智能中使用的许多算法可以发现许多关于数据的东西，并且在扩展的机器学习（ML）定义下与旧技术相结合。要理解为什么在某些情况下训练和部署深度学习（DL）系统所涉及的复杂性增加是有用的，本文将介绍优化的基础知识，并解释深度学习（DL）为业务理解增加的内容。
　　
　　最优化是用数学方法求某个函数的最大值或最小值。例如，商业中讨论最多的概念之一就是利润最大化。可以创建一个包含所有成本、材料、生产、分配、管理费用以及价格的数学公式。然后，该公式可用于计算给定成本集和所选价格的最大利润。
　　
　　那些固定问题是什么是最小值或最大值的问题。当人们选择数据集或范围时，他们可以使用基于经验的偏差来人为地限制问题的潜在条件。在讨论在有限数据集中找到的最大值时，数学家将其定义为局部最大值。最小值的情况也是如此，如图中所示。红点显示局部最小值，其中较宽的数据集表明它不是更广泛的数据集中的最小值。
　　
　　当考虑到许多新信息模型的复杂性时，会出现更多问题。由于甚至大数据集在理论上是本地的问题，深度学习（DL）在应用于优化问题时也存在问题。训练深度学习（DL）系统的主要方法是称为随机梯度下降（如果对数学不感兴趣则避免链接）或梯度下降法(SGD)。模型的每次训练运行的结果确定在下一次运行中对算法参数的调整。问题是梯度下降法(SGD)容易受到局部最小值和最大值的影响。
　　
　　因此，深度学习（DL）系统被认为不适合更加复杂和通用的优化问题。可以使用其他方法和算法，并且它们的复杂性仍然将它们置于机器学习的现代定义中。
　　
　　并非所有优化都是本地的，但足够重要
　　
　　本文的第一部分描述了深度学习（DL）系统在应用于更一般的优化时存在问题的原因。那么，为什么许多深度学习（DL）系统仍在管理优化问题呢？答案很简单：通常局部最小值或最大值不仅足够好，而且优于全局最小值或最大值。
　　
　　如何运作的最明显的例子是越来越普遍的推荐引擎。现在，几乎每个电子商务网站都会列出访问者在查看单个产品时可能感兴趣的其他产品。确定这些建议是一个优化问题，因为网站所有者希望显示最有可能成为访问者附加购买的项目。
　　
　　在此使用与食物相关的例子。想象一下，顾客去杂货店的网站，然后进入列出可用的不同类型百吉饼的页面。其网站可能会注意到购买百吉饼的顾客中有很大一部分也购买烟熏三文鱼。因此，将鲑鱼作为额外购买选项放在页面上。
　　
　　问题是所有客户都不一样。杂货店网站注意到访问客户的IP位于纽约市。然后该模型显示百吉饼和熏鲑鱼之间的相关性更高。那么将展示鲑鱼。
　　
　　如果是之前登录过的客户。以前的购买记录表明这个人从未买过熏鲑鱼。但这个人购买了豆腐，而且之前购买了一个乳制品替代奶油奶酪。
　　
　　全球最大值意味着人们应该将烟熏鲑鱼与每个购买百吉饼的人联系起来，但当地最大值意味着还有其他可能的素食产品更有可能吸引顾客的群体。在这种情况下，本地最大值远远超过产品购买可能性的全球最大值。
　　
　　使用大型数据集训练的深度学习系统的力量并不是如果能够找出全局优化的话。正好恰恰相反，深度学习（DL）系统可以更精细地调整局部最小值和最大值。它可以定制从全球普遍性到特定个人兴趣的产品。
　　
　　在许多优化问题中，存在局部优化的风险。深度学习系统尚不适合解决这些问题。在商业中，对数据科学家来说很重要，优化的重点在于找到更精细的局部最大值或最小值。这就是当今深度学习系统如此受关注的一个关键原因。
　　
　　编辑：Harris