云天励飞大模型动态首次公开，「算法芯片化」能力加速AI落地

"“算法芯片化”一直以来都是云天励飞的核心能力。"

本文为IPO早知道原创

作者｜Stone Jin

据IPO早知道消息，云天励飞在7月6日至8日举办的2023世界人工智能大会上展示了自主设计开发的新一代边缘计算芯片 Deep Edge10 系列 SoC 芯片，并公布“天书”大模型的最新动态。

其中，Deep Edge10 系列 SoC 芯片已于2022年底成功流片，采用国内先进工艺，支持多芯粒扩展的 Chiplet 技术，可提供 12TOPS（INT8）整型计算和 2T FLOPS（FP16）浮点计算的深度学习推理计算算力，满足市场对处理芯片在算法的多样性、准确性、算力密度及效能方面的要求，可广泛应用于AIoT边缘视频、移动机器人等场景。预计今年量产投入使用。

而本次WAIC上首次披露的“云天天书”基础大模型架构则包含三个层级：通用大模型、行业大模型、场景大模型——云天励飞基于算法开发平台和算法芯片化平台，并通过海量高质量数据预训练生产通用大模型；在通用大模型基础上，引入高质量行业数据，生产行业大模型；再在行业大模型基础上，通过细分场景数据微调研发场景大模型。通过这样的三级架构，让大模型为千行百业赋能。

值得一提的是，“算法芯片化”一直以来都是云天励飞的核心能力——“算法芯片化”并不是简单的“算法+芯片”,而是云天励飞基于对场景的理解,以及对算法关键计算任务在应用场景中的量化分析，将芯片设计者的理念、思想与算法相融合的AI芯片设计流程。

譬如，本次亮相的DeepEdge10就能够为大模型在边侧推理场景提供充足算力，可以解决大模型应用和部署过程中的各类挑战，包括新的神经网络计算范式、高带宽传输、分布式并行计算、低精度混合计算等，能够为大模型和实际应用场景嫁接起桥梁，让大模型技术能够高效、低成本地部署到终端，帮助场景探索更多大模型的创新应用。

在落地方面。基于“云天天书”大模型，云天励飞已与深圳龙岗政数局共同探索了大模型在政务咨询服务系统的应用——通过对海量的政策、法规、办理流程等文本进行结构化梳理和分析，形成易于查阅的知识库；帮助服务人员快速查询和获取准确的信息，减少查阅时间，提高政务服务工作效率。目前该系统在行政服务大厅探索应用，未来计划逐步拓展到其他政府机构和公共服务领域，如法务、金融、教育、医疗、交通等。此外，云天励飞与龙岗政数局合作探索打造的“大模型政务咨询服务系统”还入选了中国信通院《通用人工智能创新应用案例集》。

另外值得注意的是，本次云天励飞展位在中国电子展区内，作为中国电子信创产业的一部分亮相。

作为中国电子主导的“自主安全计算产业生态链”的重要支撑单位，云天励飞现与中国电子已在信创产业生态链的诸多领域展开合作，包括与中国电子飞腾CPU、麒麟OS操作系统完成适配兼容，联合推出飞腾机器视觉系统联合解决方案，以及基于公司AI芯片打造的中国长城台式机立体指静脉生物识别模组、智能工控盒子等硬件产品。

另外，在以IP为基础的人工智能平台生态合作方面，云天励飞2022年与国内头部的AIoT芯片设计厂商、智慧汽车芯片设计厂商、服务机器人厂商、国家重点实验室等形成了合作，提供公司的最新一代人工智能处理器NNP300的IP授权，由下游厂商进行面向行业的人工智能芯片设计和生产。

本次WAIC期间，云天励飞还与中国电子云、中国电子技术标准化研究院、中国信通院、华为昇腾联合发起一系列人工智能与大模型相关的生态联盟，与行业内头部企业与机构一起，共建健康、有序的人工智能发展环境。

免责声明：泡财经所有平台仅提供服务对接功能，资讯信息、数据资料来源于第三方，其中发布的文章、视频、数据仅代表内容发布者个人的观点，并不代表泡财经平台的观点，不构成任何投资建议，仅供参考，用户需独立做出投资决策，自行承担因信赖或使用第三方信息而导致的任何损失。投资有风险，入市需谨慎。