标题摘要内容
当前的位置:
详情
思谋发布首个工业大模型开发底座,大模型开发成本直降40%
来源:思谋SmartMore | 作者:思小谋 | 发布时间: 2023-07-09 | 725 次浏览 | 分享到:
6月27日,华南工博会期间,思谋科技宣布行业首个工业大模型开发与应用底座SMore LrMo正式发布。

SMore LrMo是面向工业场景的大模型开发与应用平台,覆盖了应用层面、算法框架、基础设施服务等开发全场景,涉及算力资源调度管理能力、数据自动标注管理能力、应用开发管理能力、算法服务管理能力等人工智能模型全生命周期。

首个工业大模型开发底座问世



这是继3月底以来ViMo Cloud工业智能云平台、ViMo Deeplearning桌面级工业视觉深度学习训练软件、ViMo Studio低代码机器视觉软件等ViMo系列产品发布之后,思谋的再次“上新”。

如果说ViMo系列产品的研发是为了降低制造业对人工智能的使用门槛的话,SMore LrMo便是为了降低制造业企业对人工智能的研发与应用成本,为工业场景的大模型应用提供安全可靠的私有化平台。不变的是,思谋科技对人工智能通用性、普惠化的追求始终贯彻其中。

据了解,SMore LrMo是市场上首个工业大模型开发底座,专为解决工业场景下大模型的数据采集复杂、数据安全性要求严格、设备异构程度高、计算集群分布广、大模型工程化成本高等痛点而来,具有安全与隐私性高、硬件适配广泛、多云调度、大模型训练快等特点

SMore LrMo支持云边端设备联动、多数据源接入,可对工业级大规模数据集进行高效处理和管理,提供高效的数据操作接口和分布式数据处理能力,以满足复杂数据处理需求;亦支持非联邦学习模型到联邦模型的快速转换,实现联邦学习场景下,对卷积、图、Transformer等神经网络的适配,可充分满足制造企业对数据安全与隐私管理严格的要求。

SMore LrMo还拥有出众的通用性、广泛的硬件适配能力。该平台支持Intel与ARM架构芯片以及NVDIA、寒武纪、天数智芯等5种国产加速卡,超3种以上国产框架,实现了基于国产加速卡与深度框架的150多种深度学习与强化学习模型的适配;在AI作业跨域自动化感知调度时,可实现万卡、20个以上集群管理调度,线性加速80%以上。

据SMore LrMo研发负责人透露,在大模型训练上,平台可支持超1000亿参数规模的大模型分布式训练,较主流深度学习框架训练加速超15%;在推理加速上,平台提供模型自动压缩工具集,提供异构加速卡加速SDK,提升模型推理效率,通用开源大模型部署效率提升3-5倍,平台上线部署模型最高可达到单GPU 1000+ 的吞吐速度,处于行业领先水平;支持模型一键部署,实现推理服务高吞吐高性能,并弹性扩缩容,并提供完整的运维监控体系,极大助力各式高精度工业AI模型的开发与应用。