标题摘要内容
【品牌活动】协会执行会长范丛明受邀参加创始理事单位云天励飞AI大模型产品发布会
来源: | 作者:深圳市人工智能产业协会 | 发布时间: 2024-03-29 | 23 次浏览 | 分享到:




3月28日,深圳市人工智能产业协会执行会长范丛明受邀参加协会创始理事单位云天励飞AI大模型产品发布会,正式发布“深目”AI模盒。该产品能够做到“3个90%”:覆盖场景超过90%、算法精度超过90%、使用成本降低90%,解决大模型在场景落地最后一公里的问题,帮助更多中小企业客户轻松使用大模型。


会上,云天励飞还与鹏城实验室、之江实验室、中国电子、华为、华润数科等单位成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。


值得一提的是,云天励飞还宣布“云天天书-2.0-68B”版本免费向合作伙伴开放;即日起预订“深目”AI模盒,即有机会获得邀约测试的机会





千元级成本,即可拥有专属大模型



从ChatGPT到Sora,从文生文、文生图像到文生视频,大模型发展日新月异,持续给行业带来惊喜,不仅国内掀起“百模大战”,国外科技巨头也在大模型上相互较劲。大模型的能力在不断进化,引发新一轮的AI变革。





云天励飞董事长兼CEO陈宁博士在发布会上提到:未来3年,全球80%的企业都将使用大模型。但是,要训练专属大模型,不仅需要大算力、大数据,还需要大量顶尖人才。大模型一次训练成本在千万级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。


为了能够让大模型“平民化”,成为人人都可用的产品,云天励飞推出了“深目”AI模盒。


这款产品售价在千元级,用单手就能托起,搭载了云天励飞的自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”,具备算法边缘侧在线学习能力,可实现算法场景覆盖超过90%、算法精度超过90%,使用成本降低90%,让人人都能够根据自身场景需求,利用大模型能力,训练出可实战应用的算法,让大模型唾手可得。





把大模型变“小”,云天励飞是怎么做到的?




能够实现3个90%,离不开云天励飞的核心能力——算法芯片化。”陈宁博士说。


“深目”AI模盒的算力基础,来源于去年云天励飞推出的14nm Chiplet大模型训推芯片DeepEdge10 Max。该芯片采用自主可控的国产工艺,内含国产RISC-V核,支持大模型训练推理部署。依托自研芯片DeepEdge10 Max创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载10亿级SAM、百亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。


“深目”AI模盒的大模型能力,来源于云天励飞自主研发的多模态大模型“云天天书”。云天天书大模型包含语言大模型、多模态大模型等不同系列,在C-Eval、CMMLU等权威测试中多次获得第一,并于去年正式通过中央网信办备案。云天天书1.0版本于2023年初正式推出,至今已完成3个版本的迭代,预计今年6月将迭代4.0 V版本。





以云天天书为底座,云天励飞能够与生态合作伙伴完成预训练场景算法,再将预训练算法提供给广大中小企业用户,中小企业客户可根据自身场景需求,在边缘端完成算法微调。由于大模型具备泛化和学习的能力,客户部署算法后,大模型还能够不断根据现实应用场景情况,在线学习、优化算法,不断提升算法精度。


“深目”AI模盒不仅仅是“压缩”了大模型和芯片能力的一款全新产品,更是把云天励飞大模型通过算法芯片化能力平台“硬件化”的一次重要尝试。把复杂的技术通过简单的产品提供给用户,让用户可以零学习成本,快速训练出自己需要的算法。





做物理世界的解码者



从2014年成立至今,云天励飞一直坚持将AI技术与物理世界相结合,这也是云天励飞从成立之初自研芯片的重要原因。芯片是AI与物理世界的连接器,AI通过芯片为实体赋能,物理世界的数据又通过芯片反哺AI,推动AI进步发展。


“AI商业化发展有三个阶段:AI方案化、AI运营化、AI产品化。”陈宁博士在发布会现场说道。在AI方案化阶段,AI企业主要通过项目制满足不同垂直领域客户需求。在打磨行业标杆项目的过程中,AI企业不断积累行业认知和数据,AI技术实力不断增强,并形成具备越来越强的泛化能力AI平台,企业也得以开启AI运营业务。而最终,所有的技术都需要通过物理实体赋能,因此AI最终必须走向产品化。



云天励飞业务发展路径也沿着这条路径展开。在AI方案化方面,云天励飞在警务、城市治理、智慧交通、人居生活等领域打造诸多标杆项目,并且在低空经济、智慧教育等创新领域持续展开探索。基于在大量行业的落地经验,云天励飞已形成数据运营、新能源运营平台,走向AI运营化。如今,云天励飞还逐步走向AI产品化。去年,云天励飞与华为昇腾联合推出基于昇腾910B的天舟大模型训推一体机;如今又推出面向边缘训推场景的“深目”AI模盒。此外,云天励飞还通过资本纽带,进军智能穿戴和机器人等硬件领域,形成日益完善的大模型产品体系。


从AI方案化、AI运营化再到AI产品化,云天励飞一直在致力于做物理世界的“解码者”,通过算法芯片化的能力,为“无形”的技术和“有形”的世界构建通道,让AI不仅仅是一个在虚拟世界的工具,而是转化为物理世界的生产力。





关于“深目”背后的故事



2014年,云天励飞凭借对深度学习的深刻理解,推出了基于CV小模型的人工智能产品——“深目”1.0,成功引领了AI产业化应用的浪潮,为“AI+公共安全”市场开启了新纪元


如今,人工智能已迈入大模型时代。在大模型技术的强力驱动下,AI能力得以更广泛地拓展与应用。每一个场景都蕴藏着巨大的潜力,等待着我们用大模型去重塑、去挖掘其更深层次的价值。在这个奇点时刻,我们选择二次创业,并推出了一款基于自研芯片和大模型技术的“深目”AI模盒。这款产品能够低成本地快速生成并运行算法,为碎片化场景下复杂多变的AI应用提供了强有力的支持。


这款产品,我们依然命名为“深目”。虽然名字未变,但“深目”已经从最初我们对AI方案化构想,进化成了如今成熟的产品化现实。它的技术底座已焕然一新,方案和产品均实现了全面的升级与蜕变。我们期望“深目”系列产品能够赋能更广阔的碎片化场景,真正实现AI技术的普惠,让千行百业都能受益于其强大功能。同时,“深目2.0”这个品牌也将承载着云天人不断创新、超越自我的创业精神,为我们开启二次创业的新征程。我们坚信,在大家的共同努力下,“深目”将焕发出新的活力与光彩,为AI产业的发展贡献更多力量,共同开创更加美好的未来!