新华网:中软评测中心深度测评:DeepSeek-R1服务性能评测网页版

2025-02-26

DeepSeek于今年1月20日发布开源R1版本大模型。各大云服务商、芯片厂商等第三方服务商陆续上线 DeepSeek R1 服务。由于各平台技术实力、资源投入以及优化策略存在差异,DeepSeek的部署效果参差不齐,在功能设置、用户体验和模型适配程度上各有不同。为深入了解各平台提供服务的DeepSeek的性能,中国软件评测中心人工智能部选择十余家国内外服务的厂商开展了全面评测。

代码测试:理性评测测评结果

为确保测评结果的客观性,本次测试选用了20道代码题,涵盖不同编程领域和难度级别,测评所部署DeepSeek R1模型第三方平台的结果差异性,并从完整回复率、截断率、无回复率、准确率、吞吐量等方面进行分析。

随着 DeepSeek R1 部署时间增长,各厂家线上平台的 DeepSeek R1 表现逐渐趋同。以纳米 AI 为例,短短三天就大幅缩小了与头部厂家的差距,在答案正确性和思考过程方面都有不错的表现。在本次代码测试能力评估中,十二家平台最终都达到了良好水平。

各平台在不同时间段的使用效果


为进一步体现平台间的具体差异性,进一步采用具有较长推理过程的问题展开探索,以求对比DeepSeek R1在各平台上部署使用效果。

趣味探索部署效果

在这一环节,设计了别具一格的测试题目,旨在全面检验各模型的能力。分别是经典台词问答、网络旧梗回顾、汉字识别。

测试过程中,重点关注以下评价指标:推理时间、推理字数、总字数、推理字数占比、吞吐速率以及回答的正确与否(比率)。

经过测试,各模型在这些问题上的表现与之前代码能力测试的结果相似。多数平台能够迅速且准确地找到答案,然而,无问芯穹、POE、秘塔 AI 搜索以及天工 AI 在回答过程中出现了不同程度的错误。

用户体验感分析

为深入了解各平台的线上版本用户使用感,分析平台便捷性、功能的多样性程度,中软测评从联网、文件上传、清除上下文、语音输入、上传图片以及模型输出速率等关键功能进行分析。综合测评分析火山引擎、百度智能云、腾讯云大模型知识引擎等平台综合评价较高POE在功能性上更胜一筹,不仅能够支持语音输入,还能够进行文件上传;仅有秘塔AI、腾讯云大模型知识引擎两家支持图片上传。

结果分析

各平台在正确率上没有较大的区分,但在深度思考时间以及吞吐速率的表现却大相径庭。火山引擎、纳米AI搜索等平台在既保证了准确率的情况下,吞吐速率也较快。

百度智能云、讯飞开放、火山引擎等平台的生成内容的总字数都接近三千字,其中推理字数占比分别达到68%、69%以及60%,展现出更强的逻辑延展性,而纳米AI等平台仅能提供浅层推理,反映出各平台在深度思考能力上的差异。

对于用户而言,平台的响应速率和吞吐量固然重要,但每次问答所消耗的token值同样不可小觑。token值消耗直接影响使用成本,如果在频繁使用的情况下,token消耗过大,无疑会增加用户的使用成本。因此,在选择平台时,用户有必要综合考虑这些因素,权衡不同平台在功能表现与token值消耗之间的平衡,从而选择最适合自己需求的平台。

中国软件评测中心后续将不断完善测评内容,将对更多服务商进行API、私有化部署等测评。


3349381607