创新实力强、应用落地广,GenAI(生成式 AI) 技术栈领域, 商汤科技位居国内榜首!
创新实力强、应用落地广,GenAI(生成式 AI) 技术栈领域, 商汤科技位居国内榜首!
近日, 权威研究机构弗若斯特沙利文 (Frost & Sullivan, 简称「沙利文」) 联合头豹研究院发布《2024 年中国 GenAI 技术栈市场报告》, 商汤科技在 11 个 GenAI 厂商中超越阿里云、百度智能云和华为云, 增长指数和创新指数均排名国内第一, 在全球排名中仅次于亚马逊云科技。
报告认为, 商汤积极投入技术创新, 致力于为用户提供行业领先的自研模型与高性能国产化的推理引擎, 同时建立了包含机器与人工审核、安全评测与内容安全策略迭代升级等在内的完整性安全管理方案, 是 GenAI 技术栈领域的领导者。
基于商汤大装置, 创新力和增长力领跑国内市场
GenAI 技术栈是连接硬件设施层与终端用户交互的中间层, 集成了包括基础模型、数据处理、模型训练调优、模型部署监控等技术和工具, 提供从模型初始化到部署全过程的一站式解决方案。
《2024 年中国 GenAI 技术栈市场报告》从创新和增长两个维度、共 10 个一级评价指标进行 GenAI 技术栈竞争力分析。
报告显示, 商汤科技在两个维度中均排名全球第二、国内第一, 其中创新维度获得「资源利用率优化管理、缓存与记忆、精炼压缩模型」三大模块最高分, 展现出三大能力优势:
· 高效的资源利用率优化能力:商汤自研高性能大模型推理引擎性能优势明显, 在相同算力及电力成本下将每秒请求数 (QPS) 提升 4 倍。同时基于训推一体、算电协同等技术创新, 万卡集群 GPU 资源利用率最高达到 80% 以上。
· 高效的缓存与记忆能力:建立了数据飞轮机制, 形成自我强化的反馈循环, 实现模型性能的不断提升。
· 精炼的压缩模型能力:在代码小浣熊办公助手和代码助手应用场景中, 通过模型体积压缩, 实现数倍的显存节省、高比例的速度提升。
在增长维度, 商汤科技斩获「行业客户与场景方案」模块最高分, 展现出了商汤生成式 AI 落地应用的广度和深度:
· 覆盖领域广:商汤「日日新」大模型已在金融、医疗、Copilot 助手、拟人交互、智能终端等关键领域确立了卓越的应用价值和领先地位。
· 应用触达深:商汤科技与各行业头部企业展开紧密合作, 助力运营商提高算力资源利用, 助力媒体创新内容生产模式, 为生成式 AI 应用落地提供了丰富的标杆案例与行业经验。
引领GenAI技术栈发展趋势, 加速GenAI应用落地
报告指出, 高质模型的构建、安全合规的优化、推理成本的降低、数据价值的释放、产品应用化的实现, 是用户在构建 GenAI 应用时的核心考量因素。
而商汤科技在 GenAI 技术栈领域取得领先, 主要源于以下几个方面:
· 积极的创新投入:不仅构建了自主算力平台, 商汤日日新大模型在多评测集上也均保持领先地位, 让用户可以调用不同模态与不同行业性的基础大模型。
· 高性能的推理引擎:商汤大型分布式推理系统, 拥有高性能算子库与极致优化的推理框架, 在软硬件底层优化、自适应分离架构、国产化生态打造以及前瞻性的「多模态 AGI+云/边/端系统」布局等层面优势显著。
· 完善的安全管理框架:商汤针对 GenAI 场景, 设计了符合大模型特质的内容安全运营体系, 为用户提供完整的安全管理方案。
报告认为,GenAI 技术栈将呈现模块化、标准化、平台化、简易化、去中心化的发展趋势,MaaS(模型即服务) 的广泛推广还将重构生成式 AI 的商业化生态。同时, 作为一项底层创新技术,GenAI 还将催生全新类型的信息商品, 有望造就出全新的产品时代和超级产品。
商汤大装置万象, 包含模型开发平台和应用开发平台, 面向企业与开发者提供模型管理、模型微调、推理部署、数据管理, 以及智能体应用等一站式大模型服务, 并成功应用于央国企、运营商、汽车、互联网等行业客户。
商汤大装置将不断完善 GenAI 技术栈, 通过一系列工具与服务协助用户降低模型开发门槛, 以 MaaS 大模型即服务的创新模式, 推动生成式 AI 应用的商业化落地和生态构建。
来源：互联网
