视频号
    标题 摘要 内容
    详情

    近日,由深圳市人工智能产业协会主办的「AI大咖说」第六期活动圆满举办。


    本次活动以《垂类模型与端侧算力的共振:AI产业落地场景的新探索》为主题,由深圳市人工智能产业协会副会长杨诗虹主持,邀请商汤科技生态渠道部KA负责人魏凯阳、奥尼人工智能技术(深圳)有限公司产品总监屈鹏飞两位行业嘉宾同台对话,围绕垂类模型与端侧算力的现实矛盾、行业场景取舍、端云协同优化以及产业未来趋势开展深度研讨。


    图片


    当前AI产业化已经从 “能力竞争” 转向 “场景竞争”。垂类模型为实现复杂方案生成、多模态处理、端到端业务执行不断迭代升级,但端侧设备受算力、功耗、成本、时延、存储、稳定性多重硬约束,出现 “模型越强,落地越难” 的现实矛盾,成为制约行业规模化应用的关键痛点。


    魏凯阳从垂类模型供给与KA客户需求角度指出,模型迭代升级源于企业复杂业务诉求,但并非所有任务都依赖大模型。端云划分需依据任务复杂度拆解,高推理、非实时业务交由云端,端侧通过量化、蒸馏实现模型轻量化。客户项目需要在效果、成本、部署难度间权衡,优先保障业务可用再优化效率。她结合销售管理真实业务案例,分享AI落地要尊重一线使用体验、兼容企业现有CRM系统,AI做辅助而非全盘替代;研判端云一体化终端将率先落地,垂类智能体成熟则离不开行业数据、工作流与模型能力的协同磨合。


    图片


    屈鹏飞结合硬件落地实践表示,端侧算力、功耗、存储存在硬性约束,行业常出现模型效果优异却无法稳定上机的难题。奥尼布局M/A/T/C系列阶梯算力硬件,覆盖端、边、云不同算力等级,以 “够用就好” 理念匹配客户预算。端云划分优先考量业务时延,声纹采集、本地预处理等低时延任务下沉端侧,重计算任务交由云端,硬件需适配边缘推理承载轻量化模型。他认为轻量化垂类AI硬件将更快商业化,行业不应盲目堆砌硬件参数,竞争核心转向软硬件联合调优。客户选型时,部署复杂度与实际使用体验,比纸面硬件性能更为关键。


    图片


    针对未来产业走向,嘉宾达成共识:垂类模型“做大”与“小而专”将并行发展。行业竞争核心转向模型、算力、数据、产品与场景的协同融合,软硬件企业需联合对业务结果负责,渠道深耕一线落地。产业要摒弃重演示轻实效的做法,坚持“先保能用,再谈好用”。


    图片


    未来,深圳市人工智能产业协会将继续发挥平台优势,持续推出「AI大咖说」系列活动,聚焦人工智能前沿热点,链接产业资源,推动人工智能产业高质量发展。


    敬请关注协会官方视频号“深AIIA”,获取更多活动预告与干货内容。