操作系统的作用在云计算时代就被大大削弱了，但AI OS（AI 操作系统）的概念在数智时代还是被了提出来。AI意见领袖Andrej Karpathy在自己的“LLM OS”内，将大语言模型、上下文窗口、RAG系统、多模态输入/输出、智能体、互操作性协议，与传统硬件组件一一对应。为用户描绘了令人神往的愿景：利用LLM OS，就可以用自然语言下达指令，通过Agent完成一系列复杂的工作。
这是一个令人神往的愿景，但对比AI的应用现状，用户却会发现这中间还隔着一大步。而对一直钟爱操作系统概念的浪潮云海来说，AI云基础设施平台InCloud AIOS是通往这个美好愿景的不可或缺的阶梯。
AI应用的误区
2025年是AI应用元年，当DeepSeek崛起之后，国内企业掀起了一轮落地AI应用的狂潮。然而，各类调研报告却显示企业的AI大考成绩并不理想。由于人才短缺、高水平数据瓶颈、ROI难以评定等诸多问题，多数企业采用了小步快跑的策略，在摸索中前行。
浪潮云海在研究了300多家落地AI应用的行业客户后，发现了更深层的问题：很多落地AI应用的企业成本浪费严重，花大钱没办事。模型可服务人数不足，同时管理运维复杂，缺少智能体应用买了却不会用，坏了也不会修。同时安全风险频发，存在敏感数据泄露的风险。
浪潮数据云计算产品副总经理张明灿
浪潮数据云计算产品副总经理张明灿介绍说：“很多业务部门自建AI资源形成‘烟囱式’架构，GPU利用率不足60%；同时异构芯片兼容困难，满血大模型部署受阻；运维人员需要掌握GPU、云原生、大模型等多领域知识，学习成本陡增，进一步加剧了AI人才短缺的瓶颈。这些现象表明当AI技术从实验室走向产业实践，企业在拥抱智能变革的同时，正被资源割裂、运维复杂、成本高昂等问题所困扰。”
另一方面，AI+作为一种基础性、驱动性的技术力量，在与传统行业深度融合之后，将可以创造出新的产品、服务和商业模式，从而推动传统行业转型升级和经济社会结构变革。再从供给侧看，我国人工智能技术创新活跃,产业体系完备，具备支撑全行业应用人工智能的良好基础。因此，从供与用两个视角来看，保障AI应用实现从小规模试点到大规模工程化落地的转变，都是一个必须要破的局。
破局的开始
在破局之初，浪潮云海仔细观察了用户落地AI应用的痛点。发现用户在初期多采购 DeepSeek一体机或集群，聚焦小规模试点。这个时候，用户的核心诉求是快速部署AI体系，搭建智能问答等基础应用。但随着用户在AI领域的持续探索，AI基础设施需求逐渐向多模态、多芯片、多模型方向延伸，AI应用也由单一模型与智能问答应用，向不同业务部门差异化模型、复杂应用需求迁移。
更有许多用户，在落地了一系列单点AI应用之后，进入了AI跨部门应用的整合阶段。这个时候，AI 平台就必须具备多芯片、多模型、多智能体的兼容与统一管理能力，从而解决资源割裂与浪费、模型性能与管理复杂等几个最主要的拦路虎。
针对这些痛点，张明灿表示：“将AI能力融入私有云，是解决用户痛点的最佳路径，也是破局的关键。”
用云破局并非只是一种设想。企业在让AI+落地的过程中，需要实现从“CPU核心”到“GPU核心”的转型，但企业需要的不是颠覆性重建，而是能兼容既有资产的平滑演进方案。而AI智能体所需的大模型、GPU算力、容器、AI网关、数据库、对象存储、文件存储等资源，都可以通过云平台弹性、敏捷地提供。企业内多数AI应用也并非是完全新建，多是在原有应用基础上接入大模型推理能力，传统应用与AI应用共跑于云端，可降低管理运维复杂度。
再从知识库的角度考虑，用户的数据多存储于云上的传统应用之中，云端提取数据更便捷。最后，云的包容性可以更好地适配异构芯片、推理框架、大模型等资源，帮助用户更易于建设多芯多模的AI基础设施。
明确了这个思路，AI云基础设施平台 InCloud AIOS也就成为了破局的重中之重。
InCloud AIOS的爆火并非空穴来风。浪潮云海在私有云领域中有着深厚的积累，在金融、能源行业市场份额连续2-3年领跑，私有云市场稳居中国前三。这让浪潮云海有条件观察企业AI应用落地中的瓶颈问题，也可以把用户对于AI云载体的需求及时体现在InCloud AIOS的功能之中。当“一云多芯”成为主要矛盾时，浪潮云海芯片的中立厂商优势显现了出来。在实现了“全生态兼容”之后，浪潮云海在CPU层面可以支持X86、C86、ARM等多架构，在GPU层面与国内外主流品牌深度合作，并进行深度软硬协同优化。
混合AI时代的选择
当AI+大潮兴起之时，尽管多数企业都在跟随大潮奔跑，但在各企业内部，AI应用的落地情况却千差万别，企业AI应用落地的进程事实上进入了一个混合AI的时代。
针对混合AI现状的存在，面对企业AI建设的入门、进阶、成熟三阶段需求，InCloud AIOS采用了“分层解耦”架构，实现“按需交付、平滑升级”。基础设施层提供算力服务器、高速网络与存储，筑牢硬件根基；模型生产层实现多芯片兼容与大模型全生命周期管理，破解异构资源调度难题；智能体开发层提供统一工具链，降低应用开发门槛；应用层则整合行业垂直应用，实现开箱即用。这种设计下，入门客户可先获取资源分配能力，进阶客户叠加大模型服务，成熟客户再升级智能体开发平台，一方面避免“一步到位”的成本浪费，另一方面避免厂商绑定，构建分层解耦的建设方案。
在直面用户AI应用落地瓶颈问题之后，InCloud AIOS的功用逐步显现了出来。
由于实现了一云多算，异构资源被盘活了。某省级政府在投入五千多万元采购多品牌GPU服务器之后，却因为兼容性问题无法部署满血大模型。InCloud AIOS平台却通过统一抽象模型与开放协议规范，将异构算力纳入统一资源池。该用户因此可以利用原有硬件支持19个大模型与两百多个智能体，资源利用率提升了500%。
浪潮数据云计算产品部AIOS产品负责人吕广杰
AI技术栈的复杂性让运维人员望而却步，浪潮数据云计算产品部AIOS产品负责人吕广杰却当众人变了一回“大模型部署魔术”：利用InCloud AIOS的流程简化与自动化能力，将模型部署从“专业级操作”变为“三步完成”：命名服务、选择模型、确认发布。只需要简单的三步，不仅可以在后台自动完成芯片调度，还会推荐与模型相匹配的推理引擎。这样一来，运维人员无需掌握底层技术细节，就能完成对于AI系统的支撑工作。
随着AI应用落地进程的深入，AI应用的ROI困局也成为了必解的难题。在AI应用价值之外，AI的使用成本也让CIO们格外关心。由于企业在各部门内部独立落地AI应用，很容易造成企业常因不清楚算力需求导致资源浪费。而AIOS的自研性能评估工具，可基于服务人数、吞吐量等场景需求，量化推荐资源配置。平台还能根据芯片性能差异自动化分配任务，高端芯片承载大模型，中低端芯片处理小参数量模型需求，实现算力“物尽其用”。
回到Andrej Karpathy的设想，其顶端是各种各样的智能体。智能体时代带来了自动智能的新时代，而利用InCloud AIOS平台，浪潮数据云计算产品部AIOS产品负责人吕广杰又变了一回“智能体魔术”：只需三步，就构建起企业自己的智能体。
大模型需结合私域知识才能产生业务价值，InCloud AIOS构建智能体同样只需三步：创建知识库、上传文件、关联模型，分钟级即可发布应用。某企业的智能报销系统，通过自动识别发票信息、匹配差旅记录，将1-2小时的报销流程缩短至3分钟；合同审核智能体则能排查90%的常见风险点，远超人工30%-80%的问题识别率。目前InCloud AIOS平台已内置五十多个行业智能体，覆盖财务、医疗、交通等场景。
InCloud AIOS平台带来的最后一个变化是全流程安全。AI安全在今天已成为多数CIO关注的问题，但多数企业却没有建立起AI安全体系。但大模型“幻觉”与敏感信息泄露风险，已经让政府、金融等行业的用户顾虑重重。InCloud AIOS的AI安全网关实现“输入有拦截、输出有审计”：过滤违规提问、屏蔽敏感数据输出、限制资源占用，还可通过白名单管控数据访问范围。当用户提问违规内容或尝试生成恶意内容时，平台会直接拦截并提示，为数据敏感型客户筑牢安全防线。
当算力、安全、运维、智能体构建等诸多难题都被破解之后，企业落地AI应用的途径不知不觉间已变得平坦了很多。沿着这条坦途，企业将通往一个普惠智能新世界。
通往普惠智能新世界
在普惠智能的新世界里，一个重要特征是智能将无所不在，而InCloud AIOS平台无论是现在还是将来，显然都在向这个方向努力。
浪潮数据AIOS研发负责人徐冠群
当前，多数企业都实现了AI应用的单点落地，这在增进企业数智化水平的同时，也造就了一个又一个“烟囱式”架构。但从长远来看，实现跨部门的整体性智能应用，将是大势所趋。浪潮数据AIOS研发负责人徐冠群说，面对已形成“烟囱式”架构的客户，浪潮云海提供“平滑迁移”方案：先部署小型AIOS平台迁移部分应用，再逐步扩容整合，最终形成统一资源池，保护既有投资。某省级政府用户已经通过该方式，成功打破业务部门的资源壁垒，实现AI能力的集中化管控。
从InCloud AIOS平台产品发展路径来看，浪潮云海已经规划了清晰的发展路径。短期将聚焦AI物理基础设施层与模型统一服务层，深化智能体联盟生态——目前已联合二十多家合作伙伴，提供从底座到应用的整体解决方案。
从长期目标看，智能将不仅存在于云端，还将向边缘端不断渗透。InCloud AIOS平台长期则致力于实现“云边协同的统一AI基础设施”：中心侧部署高算力AIOS支持训练与微调，边缘侧部署轻量化AI超融合平台负责推理，实现模型的中心训练、边缘分发与在线推理。
在InCloud AIOS平台的加持之下，普惠智能新世界正在加速到来。浪潮数据云计算产品副总经理张明灿介绍说：“在生态建设上，浪潮数据通过三大策略吸引ISV合作伙伴：依托两万家私有云客户基础推荐项目资源，成立智能体联盟实验室提供适配环境，建立渠道政策激励实现客户互锁。这种‘平台+生态’的模式，让AIOS从单一产品升级为行业赋能平台。”
从传统IT基础设施到AI基础设施，核心变化是从“围绕CPU”转向“围绕GPU”，但不变的是企业对“降本增效、平滑演进”的需求。浪潮云海InCloud AIOS平台的本质，是通过技术创新将复杂的AI能力“封装”成简单的工具，让企业无需纠结底层技术，只需聚焦业务价值。
依托分层解耦的架构设计、开放兼容的技术特性、丰富的行业实践与清晰的生态战略，InCloud AIOS正成为企业AI落地的“标配底座”。正如浪潮云海所倡导的，其目标不是成为单一的技术提供者，而是通过“拥抱过去、面向未来”的产品理念，助力企业在AI时代实现“花更少成本、建更优AI、创更大价值”的发展目标，推动AI技术在产业领域的规模化落地与深度融合。
第四十一届CIO班招生
国际CIO认证培训
首席数据官（CDO）认证培训
责编：lijj
免责声明：本网站（http://www.ciotimes.com/）内容主要来自原创、合作媒体供稿和第三方投稿，凡在本网站出现的信息，均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性，但不保证有关资料的准确性及可靠性，读者在使用前请进一步核实，并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏，概不负任何法律责任。
本网站刊载的所有内容（包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等）版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时，请及时通知本站，予以删除。
抢沙发
