首页 > 人工智能 > 正文

红帽AI 3.5发布,聚焦企业AI安全与可观测性

2026-09-14 16:28:44  来源:CIO时代

摘要:红帽AI产品组合迎来重大升级,提供能够验证的可信度、运维管控、标准化架构与性能透明度,支持AI作为共享企业服务运行
关键词: 红帽
2026914日,企业级开源解决方案提供商红帽宣布,推出红帽AI 3.5,对红帽AI产品组合进行重要更新。随着企业团队跨过早期试验阶段、试点项目陆续落地,IT与平台工程领导者面临一项挑战:以关键业务基础设施的严格运维规范来运行AI。红帽AI 3.5构建起可扩展的技术底座,实现混合云环境下AI工作负载的统一管控、保护与观测,打通孤立AI试点项目与具备完整治理能力的企业级架构之间的断层。
 
红帽AI 3.5概览
 
红帽AI 3.5全新升级安全管控与可观测性核心能力,为企业生产环境规模化部署AI、打通混合云环境AI应用落地提供坚实运维底座。借助全新版本,企业可通过EvalHub在模型部署前完成验证,开展风险导向的安全基准测试,生成符合行业监管要求的合规认证材料。全新可观测仪表盘为平台团队提供完备指标,实时掌握推理运行状态、GPU利用率及AI模型性能。非管理员用户也可访问仪表盘,查看用户级词元(Token)消耗统计,以及分布式推理工作负载情况。
 
除此之外,红帽AI 3.5在成熟的企业平台能力基础上,进一步增强了多租户能力,可满足AI服务提供商以及需要软硬件完全隔离的AI场景的落地需求。基于原生多租户架构,平台可为共享GPU基础设施提供优先级智能调度服务。针对高隔离需求的企业场景,红帽AI现已正式支持在基于红帽OpenShift虚拟化部署的红帽OpenShift托管控制平面上运行。该运行方式支持为每位租户配置专属集群控制平面,同时实现底层硬件资源的整合利用。在红帽OpenShift虚拟化虚拟机中运行AI工作负载,可在共享GPU基础设施上实现强大的虚拟机层级隔离。以上能力组合,让基础设施提供商可通过单个管控入口,完成整套底层环境的运维和升级。
 
此外,红帽AI 3.5还助力加速受治理的AI智能体的落地流程。AutoRAG可直接将企业数据库接入智能体应用,新增多语种文档支持、对话测试、上下文检索等高级能力。可视化流水线功能,让团队可以在部署前验证RAG配置的准确性和稳定性。智能体模板提供代码审查、文档处理、研究工作流等常见场景的预配置实现方案。部署完成后,推理时动态扩缩功能可根据查询复杂度动态调整算力,优化GPU成本。
 
行业价值
 
企业AI试点陆续成功、初步结果预示可观回报,IT团队需要应对规模化落地的需求。但在企业中实现AI规模化落地,必须匹配关键业务基础设施级别的严格运维规范:部署前可验证的安全能力、共享GPU环境下的精细化资源管控、受治理的智能体行为以及透明的用量指标。当前多数企业依靠碎片化工具与人工流程应对这些挑战,难以规模化。红帽AI 3.5将安全管控、多租户能力、智能体开发、可观测能力整合至统一企业平台,让企业AI应用摆脱零散试点的孤立状态,形成可追责、受治理的AI架构,在混合云环境中稳定运行。
 
支持证言
 
红帽AI业务部副总裁兼总经理Joe Fernandes表示:“行业讨论重心已经从‘AI生产部署’转向‘将AI作为可信企业基础设施规模化运行’,这一转变离不开安全验证依据、可治理智能体、成本归属以及多租户能力。通过红帽AI 3.5,我们为IT领导者提供所需的运维管控、能够验证的可信度与智能体底座,在混合云上搭建安全、可控、可追责的企业级AI架构。”
 
主要亮点
 
  • 可验证的预部署安全性和评估:产品目录内已评估的模型内置Garak基准分数。EvalHub正式可用,可为自定义模型、RAG与智能体自动完成安全评估并提供可审计的合规报告。
  • 面向多租户推理的共享GPU管控:搭载GPU公平共享调度机制,管理租户间资源分配;优先级感知服务提供准入控制与基于优先级的请求路由,保障实时推理业务稳定运行,同时释放闲置算力支撑后台工作负载运转。
  • 智能体API与网关安全:正式支持Responses API,内置RAG能力,为多轮智能体对话提供统一开源接口;集成NeMo Guardrails,拦截恶意工具调用,强化安全防护。
  • 企业数据锚定与高效推理:集成支持pgvector的AutoRAG、原生自动机器学习,以及推理时动态扩缩(ITS)能力,模型可根据查询难度动态调整算力使用。
  • 内置可观测性与MaaS用量统计:提供用户级的词元用量统计、模型与智能体性能仪表盘、MLflow可视化智能体追踪,以及GPU使用情况仪表盘,实现运维与用量情况透明可查。
  • 预制智能体模板,加速开发:AI Hub新增智能体模板以及起步套件,包含代码审查、文档处理、研究工作流等企业常用场景预配置参考实现。
 
更多详情
 
  • 托管控制平面与OpenShift虚拟化支持,提升多租户场景资源利用率:红帽AI现已正式支持托管控制平面架构,为每个租户提供专属控制平面,提升硬件资源整合效率。红帽AI支持在OpenShift虚拟化虚拟机中运行AI工作负载,多租户可在实现强大虚拟机层级隔离的同时,共用物理服务器。
  • 新增一批附带AI安全评分的验证模型:产品目录新增20余款经过验证的模型,包含Google Gemma 4、NVIDIA Nemotron 3、Alibaba Cloud Qwen等。这些验证模型经过全套性能基准测试,包括Garak安全、个人敏感信息泄露、有害内容风险评分,充分透明,方便企业评估AI模型风险。
  • 经过验证的工具调用模型:产品目录内部分验证模型,被标记为工具调用可用,帮助客户在搭建智能体应用时放心选型。
  • 流量管理与模型安全更新:优先级感知服务提供准入控制和优先级请求路由,保障实时推理业务的同时,支持后台工作负载使用闲置算力;受控模型推出在模型更新期间管控流量,以最小的服务中断实现安全过渡。
  • 高效GPU内存管理:CPU卸载功能正式可用,存储卸载功能提供开发者预览版,模型可处理更长对话、更大文档,无需额外添置GPU硬件。
  • 多模态服务:依托vLLM Omni(早期访问版),在统一服务层提供文本、音频、图像生成能力。
  • 多云Kubernetes服务:llm-d分布式推理能力从OpenShift扩展至第三方Kubernetes服务,提供跨云的一致模型服务体验。现已在CoreWeave CKS与Microsoft Azure上正式可用,并通过Amazon EKS作为技术预览版本上线。
  • 智能体开发套件:AI Hub提供代码审查、文档处理、研究工作流等企业常见场景的预配置智能体模板与起步套件,集成框架、工具和部署配置,可在沙箱环境运行,从初始部署到生产阶段全程保持运维管控与安全策略。
  • 企业数据工作台:提供Kubeflow Spark Operator开发者预览版,将分布式数据处理能力直接集成至工作台环境,在单个平台统一完成数据准备与模型服务。
  • GPU即服务与多租户能力:包含命名空间隔离、托管控制平面支持,仪表盘可实时查看硬件资源清单、资源占用情况以及动态GPU资源借用。
 
可用性
红帽AI 3.5现已正式发布。红帽AI 3.5已被纳入红帽和NVIDIA AI工厂。
 

第四十二届CIO班招生
国际CIO认证培训
首席数据官(CDO)认证培训
责编:lijj

免责声明:本网站(http://www.ciotimes.com/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。