ChatGPT企业版新功能：费用管控与用量分析，成本收益咋关联？

OpenAI于近日针对GPT企业版推出了费用管控功能, 还推出了增强版用量分析工具, 其目的在于助力企业对AI使用情况予以监控, 追踪各团队的资源消耗情况, 并且给AI使用设定预算上限。然而, 分析师表明, 这些工具当下依旧不能够直接展现出成本投入与业务收益之间的相互关联。

新功能给管理员提供了集中式控制台, 能全面展现GPT于组织内部的使用情形, 助力管理者知晓采用规律, 还通过设定预算以及追踪支出这种方式来管理AI成本。

OpenAI称, 全局管理控制台把GPT和Codex的积分用量整合于同一视图, 藉此管理员能够更具细粒度地查看用户、产品还有模型维度上的积分消耗明细, 如此一来便可清晰掌握支出的来源以及其与实际积分用量之间的对应关系。

推出预算管理功能, 推出用量分析功能, 这折射出企业优先级正在发生深层转变。Forrester首席分析师Biswajeet Mahapatra称: “企业明显正从以采用为导向的热情, 转向对成本与价值的精细化管理, 不过这是一种自然的成熟演进, 并非退潮。AI已不再是一个采用问题, 而是一个衡量与可信度问题——生产力提升确实存在, 可是较为分散, 并且难以与财务结果挂钩。”。

伴随AI于各个业务部门不断扩张, 支出渐渐分散至不同团队、工具以及试验项目里, 可视化管理跟治理的重要性愈发显著。Mahapatra补充讲道: “所以, 预算管理、用量可视化以及费用管控正在变成基础性需求, 并非单纯的运营事务, 鉴于它们能够达成技术使用跟业务目标之间的协同对齐。”。

Gartner高级总监分析师Anushree Verma称, AI成本治理正越发成为企业所关注的重点, 她表明, 碎片化的定价模式, 供应商自定义的消耗单位, 以及不一致的定价结构, 造成组织艰难预测AI成本, 随着企业不断扩大AI应用规模, 这一挑战预估在未来几年会进一步加剧。

她作出表示, 提到, 在2028年的时候, 全球财富500强企业平均而言将会部署超过15万个AI智能体, 然而在2025年的时候, 这个数字还不足15个, 这种情况将会带来显著的智能体蔓延问题, 还会使得IT复杂性上升, 以及引发管理挑战。

在如下这种背景环境之下, OpenAI新近推出的那种管理功能, 给组织予以了, 在AI部署规模持续不断扩大, 并且日益朝着分散化方向发展的情形状况下, 去监控用量以及支出的一种有效工具。

虽说OpenAI关于分析的功能着重于运用规律以及用量可视化这种方式, 然而分析师有所指出, 企业到最终的时候是需要把AI消耗同业务结果关联起来的。Mahapatra表达说: “单单凭借Token消耗量这件事来讲是不足够的, 原因在于它所度量的是活动自身, 并非实际产生的影响。”。

他给出建议, 组织需要结合那些关乎营收增长情况的业务指标, 还有涉及成本削减方面的业务指标, 以及与风险缓释相关的业务指标, 另外, 还要结合能够体现生产力提升状况的运营指标, 以及和质量改善有所关联的运营指标, 进而对AI举措展开综合评估。

Verma亦指出, 传统的在云端进行的财务运营也就是FinOps实践，这些实践也正逐步地发生演进, 目的乃是去适配基于AI用量的那种具体经济模式。传统的FinOps实践是依照能够预测的集中式云环境而构建起来的, 然而在面对像Token用量、大语言模型的请求数量、GPU使用的时长等这些难以进行预测的AI消耗指标之时, 就显得在应对上力不从心了。

她声称, 多智能体系统规模持续增大, 实时追踪变得越发关键, 因配置若有偏差, AI成本在相互关联环境里会迅速上升。

Q&A

Q1：GPT企业版新增的费用管控功能具体能做什么？

A: GPT企业版新添的费用管控功能, 给管理员予以集中式控制台, 它支持查看GPT以及Codex的积分用量, 还能够依照用户、产品以及模型维度开展细粒度分析。管理员能够设定预算上限, 实时追踪各个团队的消耗情形, 借此更好地管理AI使用成本, 防止支出失控。

Q2：为什么光看Token消耗量不足以评估AI的价值？

A: AI的使用活跃程度由Token消耗量反映, 然而这绝非代表实实在在的业务成效。分析师Mahapatra表明, 企业切实所需的是把AI使用同营收增长、成本削减、风险控制等业务指标相融合, 如此这般才能判定AI投入是否真的带来了价值。仅仅依靠用量数据, 很难证实AI对财务结果的贡献。

Q3：传统FinOps方法为何难以应对AI的成本管理？

A: 传统FinOps是针对可预测的集中式云环境设计的, 然而AI的成本构成愈发复杂, 其中涵盖Token用量, 以及大语言模型请求数, 还有GPU使用时长等诸多高度动态的指标。Gartner分析师Verma表明, 特别是在多智能体系统规模得以扩大之后, 一旦出现配置错误的情况, 成本便有可能在互联环境里迅速扩散开来, 而传统方法已很难有效地进行应对了。

标签： AI成本管理 用量分析 预算控制 企业级AI FinOps