首页 > 人工智能 > 正文

是德科技推出AI推理仿真平台,用于验证与优化AI基础设施

2026-03-20 17:09:16  来源:CIO时代

摘要:新平台通过实际工作负载仿真,对AI推理基础设施进行大规模验证与优化;将于NVIDIA GTC大会上在NVIDIA DSX Air数字孪生环境中进行现场演示
关键词: 是德科技
是德科技(NYSE: KEYS )近日推出KAI推理构建器(Keysight AI Inference Builder),这款仿真与分析平台旨在大规模验证针对推理进行优化的AI基础设施。是德科技将在NVIDIA GTC大会上展示该解决方案,并演示其在NVIDIA DSX Air AI工厂仿真环境中的运行情况,实现对AI数据中心的基础设施、架构和性能进行建模与优化。
随着AI行业从大语言模型(LLM)的训练转向部署,推理优化已成为影响投资回报率的关键因素。然而,推理行为具有高度动态性,难以进行仿真。传统的测试方法(如合成流量生成或GPU基准测试)无法准确再现AI推理在计算、网络、内存、存储和安全层面上的时延敏感工作负载行为。
 
KAI推理构建器通过重现实际推理工作负载模式,并建模行业特定的使用模式,填补了这一空白,对AI基础设施、应用和数据中心部署进行验证。该平台为AI云服务提供商、硬件供应商和应用开发人员提供了一个可扩展的解决方案,用于测量、验证和优化实际环境中的推理性能。
 
KAI推理构建器的主要优势包括:
 
专为推理时代打造:作为是德科技人工智能(KAI)产品组合的一部分,KAI推理构建器能够仿真大规模AI推理工作负载,并在实际环境中验证全栈部署,从而优化性能、扩展性和安全性。
 
面向行业与应用的特定基准测试:区别于通用仿真方式,KAI推理构建器可针对金融、医疗及其他垂直领域的AI模型,仿真行业特定的使用模式和LLM架构,使企业能够对不同类型AI数据中心部署中的基础设施和应用行为进行建模与分析。
 
端到端验证与优化:KAI推理构建器评估从用户请求到模型响应的整个推理工作流,通过在计算、网络和安全层早期识别并解决瓶颈,帮助团队减少昂贵的返工。
 
子系统隔离与精准根因定位:KAI推理构建器还支持仅客户端仿真,可在AI基础设施堆栈承受负载时,定位性能瓶颈的出现位置,从而实现针对性优化,减少资源过度配置,降低成本并提升整体效率。
 
NVIDIA DSX Air集成与GTC现场演示:在NVIDIA GTC大会上,是德科技将展示KAI推理构建器与NVIDIA Air开箱即用的集成能力,通过在NVIDIA数据中心仿真环境中生成真实的推理工作负载,使运维人员能够在部署物理设备前对推理基础设施进行验证。
 
是德科技网络测试与安全解决方案副总裁兼总经理Ram Periakaruppan表示:“推理是释放AI投资回报率的关键,但如果系统资源在容量和性能方面未得到优化,就很难实现这一目标。KAI推理构建器提供可见性,全面展示实际环境中的全栈推理性能,使客户在硬件上架前即可验证并优化部署方案。本次在NVIDIA GTC大会上使用NVIDIA Air平台展示这一功能,将展示企业如何在降低风险和成本的同时,加速迈向生产。”
 
NVIDIA网络业务副总裁Amit Katz表示:“随着AI数据中心规模扩展至前所未有的水平,部署前验证已从最佳实践转变为关键任务要求。KAI推理构建器与NVIDIA DSX Air的集成,为消除性能波动提供了关键环境支持,帮助NVIDIA AI工厂合作伙伴和客户能够仿真实际推理工作负载,并预先解决瓶颈,确保经过优化的AI服务能够快速推向市场。”

第四十一届CIO班招生
国际CIO认证培训
首席数据官(CDO)认证培训
责编:lijj

免责声明:本网站(http://www.ciotimes.com/)内容主要来自原创、合作媒体供稿和第三方投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
本网站刊载的所有内容(包括但不仅限文字、图片、LOGO、音频、视频、软件、程序等)版权归原作者所有。任何单位或个人认为本网站中的内容可能涉嫌侵犯其知识产权或存在不实内容时,请及时通知本站,予以删除。