2023年11月14日

思谋发布首个工业大模型开发底座 大模型开发成本直降40

作者 admin

6月27日,华南工博会现场,思谋科技宣布行业首个工业大模型开发与应用底座SMoreLrMo正式发布。

SMoreLrMo是面向工业场景的大模型开发与应用平台,覆盖了应用层面、算法框架、基础设施服务等开发全场景,涉及算力资源调度管理能力、数据自动标注管理能力、应用开发管理能力、算法服务管理能力等人工智能模型全生命周期。

今年以来,大模型的火热点燃了新一轮人工智能发展浪潮,也正在引领新一轮工业,帮助企业重塑生产及经营各环节以实现提质降本增效。而SMoreLrMo平台的发布,将为大模型在工业领域的应用提供了基础,进一步降低企业开发及应用工业大模型、AIGC等技术的门槛,推动工业4.0发展,助力提高生产力和经济效益。

首个工业大模型开发底座问世

这是继3月底以来ViMo Cloud工业智能云平台、ViMo Deeplearning桌面级工业视觉深度学习训练软件、ViMo Studio低代码机器视觉软件等ViMo系列产品发布之后,思谋的再次“上新”。

如果说ViMo系列产品的研发是为了降低制造业对人工智能的使用门槛的话,SMoreLrMo便是为了降低制造业企业对人工智能的研发与应用成本,为工业场景的大模型应用提供安全可靠的私有化平台。不变的是,思谋科技对人工智能通用性、普惠化的追求始终贯彻其中。

据了解,SMoreLrMo是市场上首个工业大模型开发底座,专为解决工业场景下大模型的数据采集复杂、数据安全性要求严格、设备异构程度高、计算集群分布广、大模型工程化成本高等痛点而来,具有安全与隐私性高、硬件适配广泛、多云调度、大模型训练快等特点。

SMoreLrMo支持云边端设备联动、多数据源接入,可对工业级大规模数据集进行高效处理和管理,提供高效的数据操作接口和分布式数据处理能力,以满足复杂数据处理需求;亦支持非联邦学习模型到联邦模型的快速转换,实现联邦学习场景下,对卷积、图、Transformer等神经网络的适配,可充分满足制造企业对数据安全与隐私管理严格的要求。

SMoreLrMo还拥有出众的通用性、广泛的硬件适配能力。该平台支持Intel与ARM架构芯片以及NVDIA、寒武纪、天数智芯等5种国产加速卡,超3种以上国产框架,实现了基于国产加速卡与深度框架的150多种深度学习与强化学习模型的适配;在AI作业跨域自动化感知调度时,可实现万卡、20个以上集群管理调度,线%以上。

据SMoreLrMo研发负责人透露,在大模型训练上,平台可支持超1000亿参数规模的大模型分布式训练,较主流深度学习框架训练加速超15%;在推理加速上,平台提供模型自动压缩工具集,提供异构加速卡加速SDK,提升模型推理效率,通用开源大模型部署效率提升3-5倍,平台上线部署模型最高可达到单GPU 1000+ 的吞吐速度,处于行业领先水平;支持模型一键部署,实现推理服务高吞吐高性能,并弹性扩缩容,并提供完整的运维监控体系,极大助力各式高精度工业AI模型的开发与应用。

千亿参数大模型训练成本降低40%

全球最大的企业增长咨询公司弗若斯特沙利文指出,人工智能开发平台的核心竞争力集中在“提高数据处理能力”、“增强平台易用性”、“提升生态开放性”。

SMoreLrMo在上述三方面均有突出表现力。这几大优势也让它成为市场上最先进的大模型开发平台之一,助力思谋迅速拿下了一批头部科研院所、科技公司、超算中心的订单,并快速落地应用。

“目前客户的反馈显示SMoreLrMo开发应用效果非常不错。例如某大型算力中心,客户需要利用15个集群,共计3000+异构计算卡,满足大模型开发与部署应用的场景,并要对模型持续优化,保持在线服务迭代顺畅。我们为该客户部署SMoreLrMo人工智能开发平台后,客户可根据不同的训练任务智能调度训练资源,模型平均训练速度从原来的7.5小时/epoch降低到2.3小时/epoch。即使面对超1000亿参数的大模型训练,SMoreLrMo依然能高效完成,整体帮助客户训练成本降低40%。”上述负责人表示。

作为一家致力于引领科技、服务全球的全场景智能公司,过去,思谋科技以深耕智能制造、输出标准软硬一体化产品及解决方案获得了业内外广泛关注。少有人知的是,思谋还是最早对大模型在工业领域的 Emergent Ability开展研究和产业化的团队。

如今,思谋把落地在工业场景中的大模型开发、应用的心得与经验,融合20余年在人工智能领域的技术沉淀,推出一站式工业大模型开发与应用平台SMoreLrMo,进一步赋能制造业惠及万企。随着人工智能大模型逐渐落地应用,对实体经济的拥抱逐渐加深,以人工智能普惠为特征的全新时代正在拉开帷幕。而不断自我迭代、不断拓宽自我边界的思谋科技也将迈向更加广阔的未来。