机房360首页
当前位置:首页 » CIO观点 » 首席信息官可以做的3件事,使生成式人工智能与可持续性同步

首席信息官可以做的3件事,使生成式人工智能与可持续性同步

来源:机房360 作者:Harris编译 更新时间:2024/6/12 6:47:09

摘要:尽管尚未有确切的方法来遏制人工智能功耗的指数级攀升,但一些前瞻性的IT领导者已经着手探索缓解其对可持续发展计划潜在影响的有效策略。

   尽管尚未有确切的方法来遏制人工智能功耗的指数级攀升,但一些前瞻性的IT领导者已经着手探索缓解其对可持续发展计划潜在影响的有效策略。
  
  去年,随着首席信息官们纷纷启动第一轮Scope3报告,人工智能几乎悄无声息地渗透到每个办公室的各个角落。有时它引人注目地从前门大步迈进,但更多时候,它是以一种潜移默化的方式渗透进来,因为知识工作者尝试用它来撰写文件和电子邮件,甚至可能并未意识到自己在这么做。
  
  在许多企业中,人工智能的应用场景目前尚停留在此类基础层面,然而,一些IT部门已经开始批准并鼓励在编码等更为复杂和专业的领域中使用通用人工智能。与此同时,也有其他组织寄望于软件提供商进行技术升级,融入新一代的人工智能组件。
  
  瑞典金融科技公司Klarna便是其中的佼佼者。该公司不仅在一系列内部项目中集成了最新一代的人工智能技术,还将其融入到了其销售的产品中,并建立了完善的人工智能治理框架,详细规定了如何在项目中应用人工智能技术。
  
  自从ChatGPT于2022年11月推出以来,Klarna便积极投身于人工智能领域的深入探索。公司内部普遍认同,人工智能几乎有潜力帮助组织中的每个人提升效率,无论他们的技能水平或职责角色如何。Klarna的高级工程总监Martin Elwin表示:“我们目前正在研究大约100个生产和开发阶段的项目,其中许多都可能利用到通用人工智能。”“不仅仅是工程师在参与这项工作,从财务、法律到营销等各个部门的员工都在积极贡献。”
  
  就在几周前,Klarna宣布了一款全新的人工智能助手,该助手能在几乎无需人工干预的情况下回答用户的问题。其软件不仅帮助消费者从众多商家中快速找到他们所需的产品,还协助处理支付和售后支持等事务。据Klarna的通信主管DanielGreaves介绍,这款新一代的人工智能助手一经推出便取得了显著成效。他表示:“在上线后的短短四周内,这款人工智能助手已经处理了超过三分之二的客服聊天请求,相当于700名客服人员的工作量。”
  
  然而,尽管人工智能的这些及其他潜在应用听起来极具吸引力,但它们所带来的影响却令人惊讶。RackspaceTechnology公司负责人工智能、技术和可持续发展的总裁SriniKoushik指出:“从表面上看,人工智能和可持续发展似乎会指向相反的方向。无论是训练庞大的语言模型还是执行推理任务,人工智能都需要消耗大量的能源。而这仅仅是开始,电力消耗的增长趋势呈指数级上升。”
  
  尽管如此,Koushik与众多技术专家一致认为,人工智能所带来的益处远超其不断扩大的碳足迹,这与其他高能耗应用(如加密货币)形成了鲜明对比。人工智能有望助力研究人员发现更高效的能源,如核聚变,通过优化电力分配来增强现有能源的利用率,以及通过分析气候模式来评估二氧化碳排放的影响。Koushik强调道,“人工智能将在多个领域为人类带来福祉。从我个人企业的视角来看,如果人工智能能帮我节省一趟从纽约飞往伦敦的航班,那么我就已经抵消了部分能源消耗。”
  
  不论人工智能是否能在长期内兑现其承诺,首席信息官们都需要全面考虑其碳影响,并在他们的范围3报告中纳入人工智能的影响——这将会是一项复杂而挑战性的任务。例如,当您使用由他人训练的模型进行推理时,您应当报告您所应承担的二氧化碳影响份额。虽然提供者可能告知您训练模型的总成本,但如何在模型的整个生命周期内将这一成本在所有用户之间进行合理分配,目前尚无人知晓。
  
  瑞士全球运输和物流公司Kuehne+Nagel的首席数字办公室兼高级副总裁Niklas•Sundberg表示:“这些问题目前都还不明确,因为范围3报告是一个较新的概念,而通用人工智能也刚刚兴起。”Sundberg对Scope3报告的了解非常深入,并在其著作《面向技术领导者的可持续IT剧本》中详细探讨了这一主题。
  
  尽管存在一些模糊之处,但IT领导者们正在推动人工智能的发展。在此过程中,一些人发现了三件他们可以做的事情来减轻对他们自己的可持续发展计划的影响。他们在这里分享。
  
  1.使用大型提供商来优化利用率
  
  Elwin表示:“作为人工智能的高级用户,我们强烈推荐通过共享按需人工智能推理环境的提供商来使用人工智能,特别是推理功能。这是因为随着使用公共云服务的人数增多,资源利用率也会随之提高。在运行高能耗的人工智能应用程序时,优化资源使用对于降低组织的整体碳足迹具有显著影响。”
  
  首席信息官们可以更进一步,向供应商提出一系列问题,从模型训练方式到推理执行细节等。总部位于英国的Verne公司,为企业提供数据中心解决方案,其首席技术官TateCantrell建议:“如果你仅购买推理服务,不妨询问他们如何解释所有上游的影响。推理输出可能只需一瞬间,但神经网络内部权重的形成却源于大量的训练——可能长达一到两个月的训练,消耗约100到400兆瓦的电力,这才能让基础设施具备当前的功能。那么,你应如何为这些训练成本计费呢?”
  
  Cantrell敦促首席信息官们向供应商索取他们的报告。他说,“他们是否从可持续发展的角度公开报告了他们的服务对上游所有影响的全面评估?训练过程持续多久?模型的有效期是多久?这些影响涉及了多少客户?”
  
  Sundberg表示,理想的解决方案是让人工智能模型直接提供其碳足迹信息。他强调说:“你应该能够向Copilot或ChatGPT询问你上次查询的碳足迹是多少。但据我所知,目前尚无此类工具能够直接给出答案。”
  
  2.使用最合适的模型来解决每一个问题
  
  在Klarna开发其人工智能助手时,他们并未依赖单一的人工智能模型来处理所有任务。相反,他们经历了一个精心策划的过程,仔细评估服务的每一个环节,以确定每个部分真正所需的功能。Elwin表示,“我们始终致力于实现资源的高效利用,我们确保使用尽可能小的模型,以提供完成特定步骤所需的功能。”
  
  为了推广这一理念,Klarna发布了明确的指导方针,确保团队在构建其他解决方案时也能采取这种策略。例如,在需要全面功能的场景下,可能会使用如GPT-4这样的大型模型,而对于部分服务,则可选择像GPT-35Turbo这样更为轻量级的模型。
  
  这些较小的模型不仅在训练阶段减少了电力消耗,而且在推理阶段同样如此。长远来看,企业不得不量化其能源消耗——可能是基于每次查询来计量,而在这方面,较小的模型展现出了更佳的性能。Koushik解释说,“在保险行业中,处理索赔裁决并不需要GPT-4。与其相反,使用在特定领域数据上训练的小型模型,往往能更准确地回答领域内的问题,这比使用GPT-4更为高效。”
  
  Sundberg进一步指出,虽然大型企业已经研究机器学习技术有一段时间,但他们的模型往往不像大型开源模型那样复杂。“然而,在解决定价、预测客户流失等非常具体的企业问题上,这些定制化的模型往往表现得更为出色。”
  
  3.确定用例的优先级
  
  CIO们可以对不同的用例采取平衡且优先排序的视角。Koushik强调说,“并非所有人都需要Copilot”写一封更好的电子邮件所带来的益处,可能并不足以证明其订阅成本和相应的二氧化碳排放是合理的。然而,在我们的法律部门,Copilot确实带来了显著的效益,以至于成本得以抵消,因此我们选择在那里推广它。”
  
  优先考虑特定的用例意味着IT领导者将不得不向一些用户传达,人工智能可能并非解决他们问题的最佳方案。避免潜在冲突的最佳策略是尽早确立明确的指导原则。首先,需要找到一种方法来衡量人工智能工具的碳足迹,然后针对每个用例,将其与潜在的益处进行权衡。Sundberg指出:“对于首席信息官来说,掌握特定应用的二氧化碳排放指标至关重要,这将帮助他们权衡成本和收益。如果你无法自行确定碳足迹,不妨向你的软件供应商咨询。”
  
  然而,更具挑战的是,供应商并不总是愿意透露他们所掌握的全部信息。Sundberg坦言:“新一代人工智能确实带来了众多可持续发展的机遇,但它也隐藏着一个鲜少被提及的阴暗面——而这并非供应商们乐于讨论的话题。他们过于专注于竞争,以争夺各自领域的顶级供应商地位。”
  
  编辑:Harris

机房360微信公众号订阅
扫一扫,订阅更多数据中心资讯

本文地址:http://www.jifang360.com/news/2024612/n3930157062.html 网友评论: 阅读次数:
版权声明:凡本站原创文章,未经授权,禁止转载,否则追究法律责任。
转载声明:凡注明来源的文章其内容和图片均为网上转载,非商业用途,如有侵权请告知,会删除。
相关评论
正在加载评论列表...
评论表单加载中...
  • 我要分享
推荐图片