江峰
青莲网络CIO
现任广州青莲网络科技有限公司 CIO拥有15年IT从业经验,能力覆盖整个信息化建设,长期活跃一线,是国内首批云架构师,高级架构师,资深安全专家,ITQM质量评估体系核心创始人之一。编著了《企业上云最佳实践》《云治理最佳实践白皮书》。2022年-2023年参编信通院主导的行业标准及白皮书,《云优化治理白皮书第一部分:成本优化》、《云优化治理白皮书第二部分:云资源效益优化》、《企业用云治理能力成熟度模型》、《可观测性技术发展研究报告》、《可观测性能力成熟度模型》。
广州青莲网络科技有限公司是一家数字化解决方案和服务提供商。公司早期主要从事网络安全产品代理与服务,后逐步转型为以云计算、信息安全、大数据服务和智能应用为核心的综合性IT服务企业。公司业务涵盖云MSP服务、全生命周期运维管理、等保合规测评以及智能应用开发等领域,致力于为企业提供数字化转型的全栈式技术服务。近年来,公司加速向人工智能领域转型,推出了相关开发平台,助力企业提升数字化生产力。
当前,AI Agent迎来爆发临界点,生成式AI正式从试点探索迈入规模化落地阶段。随着AI智能体、多模态技术的全面普及,企业API调用频次、算力消耗规模呈指数级增长。同时,影视、广告、美妆、电商、教育、政务等全行业AI需求集中爆发,AI算力成本不再是创新部门的零散专项预算,而是正式纳入企业财务主表,成为常态化运营成本的核心组成部分。
“三无”使用模式:企业AI数字化的隐形定时炸弹
现阶段国内企业AI落地的核心痛点,并非AI使用频次过高、应用场景过剩,而是普遍存在
无配额、无审计、无治理的“三无”粗放使用模式。这种无序的落地方式,滋生了三类高频高危风险,成为制约企业数字化转型的重大隐患。
一是权限敞开,算力资源严重虚耗。多数企业未建立统一AI权限体系,员工可自主通过个人账号申请API Key,IT部门完全无法监管溯源。大量密钥被随意复制、粘贴至代码仓库、CI流水线,即便员工离职,相关调用仍持续进行,形成无人管控的隐形消耗。
同时,全员无上限开通高价大模型权限,闲聊测试、低质生成、挂机刷量等无效场景频发,企业算力资源被大量浪费。
二是激励异化,价值与消耗完全脱钩。部分企业激进的AI创新激励政策,叠加零资源管控规则,催生了无效内卷行为。部分员工为完成KPI指标,刻意编写无业务价值的Agent脚本循环调用算力,导致Token持续消耗,但未产生任何业务收益,彻底背离AI降本增效的核心初衷。
三是密钥裸露,引发资金击穿风险。大量API密钥随意暴露在公开代码仓库中,极易被黑客批量抓取、恶意调用图文生成等高消耗服务。对于中小团队而言,短短数十小时的恶意调用,便可耗尽全部运营资金,造成不可逆的财务损失。
“三无”AI使用模式是企业数字化进程中的隐形定时炸弹。无边界的开放权限、不合理的内部激励、空白的治理体系相互叠加,极易引发算力枯竭、财务亏损、业务中断的连锁负面反应,严重制约企业AI规模化落地。
企业AI算力三大核心痛点:乱象背后的本质短板
深入拆解“三无”使用模式的底层问题可以发现,当前企业AI算力管理普遍存在贯穿权限、消耗、管控全流程的三大核心短板,也是各类乱象频发的根本原因。
算力高度分散,资源管理碎片化。企业AI账号、Token令牌、模型版本、服务商体系杂乱分散,个人账号、私人Key遍地开花,大量密钥被私自嵌入代码与流水线。多模型供应商并行接入、互不打通,企业无法实现统一调度,资源利用率极低。
成本黑洞凸显,消耗完全不透明。企业仅能把控费用申请、报销的末端流程,对算力消耗的全流程毫无感知。谁在使用Token、用于什么场景、消耗额度多少、是否产生价值等核心信息完全空白,巨额AI成本支出无法与业务收益挂钩,成本管控彻底失控。
治理体系缺失,权责审计无依据。行业普遍缺乏Token全生命周期管控、精细化成本核算、全链路审计机制。算力消耗数据不公开、不透明,部门与个人权责模糊,无法识别恶意消耗、密钥泄露等风险问题,事前无预防、事中无监控、事后无溯源。
三大核心痛点直指一个关键结论:
当下企业AI落地的核心短板,从来不是缺少高性能大模型,而是缺少一套适配AI规模化落地的完整治理体系。
核心方法论:Token as a Managed Asset,治理与创新双向平衡
针对企业AI落地的核心痛点,江峰提出核心治理理念:
Token as a Managed Asset,即将Token视作企业正式资产,实现全生命周期标准化管理。他强调,AI创新自由与成本可控并非对立关系,成熟的AI治理体系不会束缚创新,反而能规避无序试错风险,让企业AI创新走得更稳、更远。
基于这一核心理念,构建了“前端准入+后端治理”双向协同的闭环体系,通过KyDI与MAI Gateway两大产品能力,实现权责分离、双向咬合、全程可控:
前端KyDI:聚焦“谁在用AI办公”,整治无序使用乱象,将员工零散、自发、不可控的个人AI使用行为,收敛为标准化、可管控、可审计的企业级能力。
后端MAI Gateway:聚焦“AI调用花了多少钱”,整治成本失控乱象,将分散、盲目、无法追责的Token消耗,转化为可预算、可归集、可审计、可优化、可稳态运营的企业级基础设施。
KyDI实践:收敛零散场景,构建企业级AI准入闭环
当前小龙虾、Workbuddy等AI办公工具,在企业中大多处于“散养”状态,无统一准入、无权限隔离、无数据管控,是企业AI乱象的主要源头。而KyDI企业级AI办公工具,核心价值就是解决前端AI使用的碎片化、无序化问题,搭建标准化企业AI准入体系。
在整体架构上,KyDI通过三大核心设计,实现企业AI能力的统一收敛:
第一,中央Master统一调度,告别个体无序接入。企业所有模型配置、技能广场、MCP能力、组织SSO同步、定时任务、数据统计与审计,均由中央服务端统一管控。彻底摒弃员工私自对接API、各自为政的使用模式,实现企业AI资源的统一调度、统一分配、统一管理。
第二,独立个人沙箱设计,实现安全隔离与能力共享。这是KyDI区别于通用AI办公工具的核心优势。平台为每位员工配置独立运行沙箱,实现数据隔离、权限互不越权。同时联动个人/公共知识库、文件夹、全局数字员工、通用技能与MCP能力,在保障数据安全合规的前提下,实现企业全局AI能力共享复用。
第三,多端一体化接入,适配全员办公场景。支持Web端、钉钉/飞书/企微机器人、主流办公平台工作台多端统一接入,一套服务端覆盖全场景。员工扫码即可登录,实现一人一专属AI助手,同时适配语音输入等轻量化操作,大幅降低全员AI使用门槛。
整套架构依托K8s弹性部署、独立沙箱隔离、Skill/MCP可插拔、SSO组织同步、多端统一接入五大核心能力支撑。对此,江峰总结KyDI的核心价值:
让企业所有AI使用行为,全面纳入身份、权限、审计的标准化闭环。
MAI Gateway实践:全链路管控,构建AI成本财务闭环
如果说KyDI解决了前端“AI谁能用、怎么用”的准入问题,MAI Gateway智算网关则彻底解决后端“算力怎么管、成本怎么控”的治理难题,补齐企业AI调用成本失控、审计缺失的核心短板。
MAI Gateway以五大治理原则为核心方法论,构建全流程、精细化的AI成本管控体系:
1. 统一网关+智能路由,从源头降本提效。企业所有AI调用请求统一经过网关中转,通过智能路由策略,区分任务场景,简单轻量化任务禁用高价大模型,杜绝模型滥用,从源头减少无效算力消耗,同时将AI服务可用性提升至生产级标准。
2. 全量缓存+提示词压缩,减少重复消耗。依托语义缓存能力留存高频问答内容,搭配Prompt精简、多轮对话上下文压缩技术,大幅降低重复Token调用,有效缩减算力损耗。
3. 配额管控+熔断机制,刚性约束消耗。支持按部门、项目、个人维度精准配置AI调用配额,设置分级成本预警机制,一旦消耗超限自动熔断关停调用,杜绝超额、失控消耗。
4. 场景适配+ROI考核,绑定业务价值。摒弃“盲目顶配”的使用思维,根据业务场景适配对应规格模型,实现按需选型、精准匹配。同时将AI算力成本与业务营收、项目成果挂钩,定期核算投入产出比,让成本消耗对应业务价值。
5. 成本分摊+全链路审计,实现每笔消耗可溯源。支持算力成本精准拆分至各业务线、项目及个人,形成清晰的成本台账。针对异常调用、高频消耗、可疑访问可快速溯源审计,确保每一分AI成本支出都有据可查、有责可究。
双重治理闭环:让AI从“无序试错”走向“有序增长”
KyDI与MAI Gateway形成前后端联动的完整AI治理闭环,构建起企业AI规模化落地的核心底座:
前端KyDI守住准入底线,通过企业统一身份认证、独立沙箱隔离、中心化令牌分发、角色化能力授权、多端统一接入、全链路审计,将全员零散的AI自主试用,转化为标准化、可管控的企业级办公能力,从源头杜绝“乱用AI”的问题。
后端MAI Gateway守住成本底线,通过五大治理原则落地精细化管控能力,让失控、无序、无法追责的Token消耗,转变为可预算、可分摊、可优化、可审计的标准化基础设施,成功将企业AI场景覆盖率从30%提升至85%,同时杜绝“乱花钱”的成本乱象。
AI治理从来不是束缚创新的枷锁,而是保障创新可持续的核心前提。
前端松绑不阻碍创新,后端严控不放任失控,通过KyDI与MAI Gateway的双重治理,企业彻底告别月底算力账单“惊喜式亏损”的被动局面,将AI算力成本从突发式意外支出,转化为可预判、可管控、可优化的日常运营成本,真正实现AI创新与成本管控的双向平衡、有序增长。
(作者:栾泽群)
第四十二届CIO班招生
国际CIO认证培训
首席数据官(CDO)认证培训
责编:zhanghy
免责声明:本网站(http://www.ciotimes.com/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。