极客之家 > 聚焦 > 正文

大模型API服务性能测试标准正式发布

来源: 光明网 时间:2025-06-17 23:49:11 阅读量:7468   

大模型应用在各行业落地,大模型平台愈发火热,近期,由中国信通院牵头,依托中国人工智能产业发展联盟模型服务(MaaS)工作组,联合30余家单位共同编制的《MaaS模型即服务技术与应用要求 第7部分:大模型API服务性能测试方法》标准(AIIA/T 0221-2025)正式发布。深信服作为核心参编,共促AI技术应用的规范发展与创新。

《MaaS模型即服务技术与应用要求 第7部分:大模型API服务性能测试方法》标准

模型即服务已成为大模型应用落地的主要模式之一,MaaS平台为用户提供便捷、灵活、低门槛的大模型服务,是重要的支撑平台。但不同平台上所提供的大模型服务能力参差不齐,中国信通院已发布一套全方位评估体系来衡量大模型API服务效能和MaaS平台能力,即《MaaS模型即服务技术与应用要求》。

本次深信服参与编制的文件为该标准的第7部分,有效填补了大模型API服务性能评估标准的空白。该标准主要规范和明确了以下内容:

性能测试的软、硬件环境要求;

关键性能测试指标及计算方法,多种测试类型及测试场景;

性能测试过程中的测试数据集选择原则和系统资源监控范围;

大模型API服务性能测试流程设计、数据集选择、性能指标计算方式和评价维度。

在本次标准编制过程中,深信服凭借在大模型技术上的深入探索以及对私有化大模型算力平台构建的丰富实践经验,为标准的科学性、实用性与前瞻性贡献了重要力量。

从安全GPT大模型到AICP算力平台的发布,深信服长期布局AI产业,已有深厚的AI能力积累。近期,深信服还将整合技术能力,升级AI创新平台,打造新智算时代的AI Infra平台,不仅为用户提供高性能、稳定、安全的平台能力,更为用户实现端到端AI应用建设TCO优化,让各行业用户以更轻松的方式拥抱AI。

声明:以上内容为本网站转自其它媒体,相关信息仅为传递更多企业信息之目的,不代表本网观点,亦不代表本网站赞同其观点或证实其内容的真实性。投资有风险,需谨慎。

line
Copyright @2010- home.jikefix.com. All Rights Reserved 极客之家 版权所有  备案号:皖ICP备2023007381号
本站所有资源来源于互联网网友交流,只供网交流所用、所有权归原权利人,如有关侵犯了你的权益,请联系告之,我们将于第一时间删除!邮箱:bgm1231@sina.com