ARTICLE DETAIL

深入阅读文章内容,快速理解重点信息与延展观点

当前页面用于展示完整正文、阅读信息、上下篇跳转与推荐内容。通过更适合长文阅读的布局结构,帮助用户在浏览过程中保持清晰节奏与稳定体验。

深度阅读
有人每月烧掉1万美元!嫌Claude太贵,这家公司改用GLM:56张B200扛起2000名工程师,AI成本直降90%文章详情页展示图

有人每月烧掉1万美元!嫌Claude太贵,这家公司改用GLM:56张B200扛起2000名工程师,AI成本直降90%

整理 | 郑丽媛 出品 | CSDN(ID:CSDNnews) 有人每个月花 1 万美元用 AI 编程,结果老板一看账单:这钱花得值吗?——这正是英国金融科技公司 Revolut 曾经遇到的尴尬。 为了让工程师用上 AI,公司先后尝试了 Gemini、Claude Code,但 部分工程师每月就能烧掉 1000 美元甚至 1 万美元。 可钱花出去了,效率提升却没有达到预期。于是,Revolut 做了一个大胆的决定:不再把 AI 编程的主力押在商业模型上,转而自己去部署智谱的开源模型 GLM。 结果相当惊人:不到一年, AI 编程推理成本下降约 90% ,公司约 2000 名工程师的 编码 时间缩短 了 60% ,从接手需求到代码合并的 交付周期也 缩短 了约 70% ! Claude 太贵了!有工程师每月烧掉 1 万美元 一开始,Revolut 其实并没有打算自己训练或部署大模型。 2025 年初,公司开始用 Gemini 帮工程师查找资料、阅读技术文档;到了 2026 年初,又引入了 Claude Code,希望进一步提高开发效率。可 随着使用规模扩大,成本很快成了问题 。 Revolut 运维与基础设施负责人 David Abitbol 透露,有些工程师每个月在 AI 服务上的支出高达1 万美元,但实际获得的投资回报并不明显。公司只好在推广 AI 编程工具时设置严格的 Token 预算。 这下又 出现了一个新问题:Token 越贵,工程师越不敢用。 他们会把有限的额度留给复杂的代码生成任务,至于调试 Bug、处理 Jira 工单、整理 Confluence 文档等工作,即使 AI 能帮忙,也要考虑一下值不值得消耗 Token。 于是,Revolut 开始寻找更便宜的替代方案,最终将目光投向了智谱的 GLM 系列模型。 公司最初采用 GLM-5.1,随后升级到 GLM-5.3,并将自托管模型设为主要的 AI 编程服务。 成本差距非常明显:按照 Abitbol 给出的数据,自托管 GLM-5.1 的输入、输出 Token 综合成本约为每百万 Token 0.30 美元,只有 OpenAI Codex 或 Anthropic Claude Code 等 商业服务成本的大约十分之一 ; 整体推理支出也降到了此前商业服务账单的约十分之一。 Token 便宜了,工程师的使用习惯也变了。Abitbol 表示,当 Token 不再那么昂贵时,工程师就不必再精打细算,不用把额度留到季度末,也不必只在最困难的任务上调用 AI——以前是工程师想着怎么省 Token,现在则是想想还有什么工作可以交给 AI。 真正拖慢开发进度的,可能根本不是写代码 Revolut 还分享了一个尤其值得关注的细节。他们统计了公司约 2000 名工程师使用 AI 前后的两项指标: 编码时间:工程师实际花费在编写代码上的时间,以小时计算。 交付周期:从接手一个功能需求,到代码合并并准备部署所需的时间,以天计算。 Abitbol 展示的内部数据表明, 采用 GLM 后,编码时间 缩短 了约 60%,交付周期 也缩短 了约 70%。 不过,他并没有把这些提升简单归功于模型写代码更快:在他看来,工程师每天真正消耗时间的事情远不止编码。 比如,排查 Bug、回复消息、处理 Jira 工单、更新 Confluence 文档,以及跟进各种开发流程。这些工作看起来都不复杂,却会一点点挤占工程师真正写代码的时间。当 AI 使用成本足够低时,工程师就可以把这些零散任务也交给智能体处理,而不是只在写代码时才想起使用 AI。 这也是为什么 Revolut 的交付周期比编码时间缩短的还多: 代码写得快,只解决了开发流程中的一部分问题 ;让 AI 接管代码之外的琐碎工作,才有机会进一步缩短整个交付周期。 56 张英伟达 B200,支撑 2000 名工程师使用 AI 让近 2000 名工程师同时使用自托管大模型,显然不是一件轻松的事。 据介绍,Revolut 选择的 GLM-5.1 总参数量约为 7540 亿,每生成一个 Token,实际激活的参数约为 400 亿。即使采用了混合专家模型(MoE)架构,但模型权重和上下文缓存还需要大量 GPU 显存。 按照Abitbol 的估算,仅存储模型权重就需要约 380GB 显存,每位用户还需要额外占用约 6GB~26GB 显存来维护上下文,具体取决于精度设置。为了支撑 GLM-5.3 的规模化推理, Revolut 最终部署了 56 张英伟达 B200 GPU 。 不过,Abitbol 并不认为性能提升只能靠买更多显卡。 在上个月纽约举行的 AI Engineer 大会上,Abitbol 展示了一组很有意思的数据:GPU 数量保持不变,经过推理系统优化后,

about image

觉得有用?分享给朋友

让更多人看到这篇内容