广和通加速通义千问Qwen3在端侧全面落地，破解边缘AI效能瓶颈

发布时间：2025-06-23 09:46
作者：AMEYA360
来源：广和通
阅读量：794

　　6月，广和通宣布：率先完成通义千问Qwen3系列混合推理模型在高通QCS8550平台端侧的适配部署。广和通通过定制化混合精度量化方案与创新硬件加速算法，成功突破Qwen3新型架构在边缘侧的落地创新，为AIoT设备提供业界领先的端侧大模型支持。

　　通义千问Qwen3自4月底正式发布并全部开源8款「混合推理模型」，其模型性能在代码、数学、通用能力等多项基准测试中刷新纪录。其中，Qwen3-4B与早期版本的Qwen2.5-72B能力相当，在提升推理性能的同时，大大降低了端侧部署成本。同时，Qwen3系列模型还是首个支持混合推理模式(Hybrid Reasoning)的开源模型。开发者可以根据需求开启、关闭思考模式或指定思考长度，将人类大脑的“直觉反应”和“深度思考”能力装进了AI。

广和通加速通义千问Qwen3在端侧全面落地，破解边缘AI效能瓶颈

　　广和通完成了参数规模为0.6B/1.7B/4B/8B的Qwen3模型在边缘端的部署，以满足不同下游应用需求。针对Qwen3引入的QK-Norm改进注意力机制和混合推理模式，广和通设计了定制化的混合精度量化方案，动态识别模型结构特征，对Norm层、注意力模块等关键组件采用差异化量化策略。再者，广和通结合NPU特点优化推理结构，利用QCS8550芯片Hexagon DSP的矩阵加速单元，显著提升了大模型在边缘设备上的落地能力。

　　目前，广和通AI Stack已支持通义千问Qwen3- 0.6B/1.7B/4B/8B模型的量化和推理，为用户提供不同端侧场景应用的模型选择。AI Stack拥有完整AI工具链，集成易于部署的代码，可进行数据标注、模型训练、模型微调。针对模型移植，AI Stack提供模型转换、模型量化和算子替换等能力。再者，AI Stack的高性能推理引擎将训练、转换完成的模型高效部署在端侧并执行推理任务，从而在实际业务场景中实现多样化的AI应用。

广和通加速通义千问Qwen3在端侧全面落地，破解边缘AI效能瓶颈

　　广和通AI研究院院长刘子威表示：“广和通率先在端侧部署Qwen3，不仅是技术验证，更是边缘智能落地的典型案例能力。通过广和通自研的AI Stack，我们让机器人、AI眼镜、翻译机等端侧设备真正具备本地化复杂推理与决策能力。广和通将强化端侧AI的商业落地能力，为更多AIoT设备赋智。”


（备注：文章来源于网络，信息仅供参考，不代表本网站观点，如有侵权请联系删除！）

上一篇：主流AIoT场景之选！芯讯通进阶级AI模组SIM9630L-W正式发布

下一篇：ARK（方舟微）工业级高压调节方案：AKP10M60R ——600V高压电流调节器

在线留言询价

相关阅读
广和通端侧目标检测模型FiboDet带你“一眼识万物
行业新闻

广和通端侧目标检测模型FiboDet带你“一眼识万物

　　为提升端侧设备视觉感知与决策能力，广和通全自研端侧目标检测模型FiboDet应运而生。该模型基于广和通在边缘计算与人工智能领域的深度积累，面向工业、交通、零售等多个行业提供高性能、低功耗、高性价比的视觉检测解决方案。　　FiboDet针对低算力芯片平台进行深度优化，即便在1TOPS算力的入门级算力平台上，仍可实现单次推理耗时小于33毫秒，满足实时视频流分析需求。在PASCAL VOC等国际公认数据集测试中，FiboDet在模型参数量、检测精度(mAP)与推理速度三项关键指标上均优于当前主流轻量级检测模型，实现“小而精”的设计理念。　　在检测能力上，FiboDet模型具备识别超过1000类通用物体的能力，覆盖日常场景中绝大多数目标类型，扩展性强，可快速适配不同应用需求。除通用目标检测外，FiboDet还可通过加入关键点回归和属性分类分支，实现多任务检测。例如：单一FiboDet模型同时实现人体检测、人脸检测、人脸关键点、表情分类、手势识别等5类任务，显著提升系统集成度与能效比。　　FiboDet由广和通独立自主研发，无需依赖第三方商业收费模型，有效规避授权合规问题，降低企业部署成本与法律风险，更适合规模化商用落地。得益于以上性能与研发优势，FiboDet可应用于工业与自动化、智慧交通与自动驾驶、智慧零售等视觉检测场景。　　在工业与自动化，FiboDet可应用于产品外观质检(如划痕、裂纹、装配缺陷检测)、零部件定位与筛选，提升生产线自动化水平和良品率;也可用于设备状态监控，如识别仪表读数、指示灯状态，实现故障预警与远程运维。　　在交通与自动驾驶，FiboDet支持车辆、行人、交通标志、车道线等道路目标的实时检测，为ADAS系统和自动驾驶提供低延迟、高可靠的环境感知能力;同时可用于智慧交通管理，如车流量统计、违章停车识别、行人闯红灯监测等。　　在智慧零售，FiboDet赋能智能零售终端实现货柜商品实时识别与库存管理，降低补货成本;支持顾客行为分析(如拿放商品、停留区域统计)，为门店运营优化与消费者体验提升提供数据支撑。　　FiboDet模型不仅适用于中低算力芯片平台，更具备向更高复杂场景扩展的能力。未来，FiboDet将持续迭代，深入赋能机器人、安防、医疗影像等更多垂直领域，帮助各行业设备加强卓越视觉检测能力。
2025-09-26 15:55 阅读量：191
广和通成功在MediaTek MT8893上部署DeepSeek-R1-0528-Qwen3-8B模型，全面提升终端推理能力
行业新闻

广和通成功在MediaTek MT8893上部署DeepSeek-R1-0528-Qwen3-8B模型，全面提升终端推理能力

　　近日，广和通在MediaTek MT8893平台上成功部署并运行了DeepSeek-R1-0528-Qwen3-8B模型，显著提升了端侧AI设备的处理效率与智能化水平，特别是在本地化复杂文本处理的智能会议场景中表现出色。本次部署采用动态控制思维链输出的创新方式，通过实现思维链思考过程与输出结果解耦的技术路径，在确保模型快速输出结果的同时，使模型仍能进行深度逻辑推理。　　依托MT8893的4nm工艺与第七代APU能效优化，以及Qwen3-8B蒸馏模型的轻量化优势，本方案在提升推理能力的同时有效降低了功耗，使终端具备低能耗、低发热与长时间稳定运行的特性，提供了更加可靠与高效的使用体验。　　联发科技的MT8893芯片是专为边缘AI计算设计的高性能平台，拥有八大核的CPU运算能力、高效的能耗控制以及对AI工作负载的专门优化，广泛适用于需要实时处理的端侧AI场景。MT8893集成48 TOPS的NPU，能够高效执行复杂的神经网络模型，为像DeepSeek-R1-0528-Qwen3-8B这样的大模型提供充足的算力支持。在广和通的优化下，MT8893平台确保DeepSeek-R1-0528-Qwen3-8B模型在智能会议机等设备上流畅运行，实现低延迟、高精度、低功耗的语音转写和内容摘要生成。　　DeepSeek-R1-0528是深度求索(DeepSeek)在2025年5月28日发布的最新升级版本。该模型基于2024年12月发布的DeepSeek V3 Base模型，在后训练过程中投入了更多算力，显著提升了模型的思维深度与推理能力。其在数学、编程与通用逻辑等多个基准测评中取得了优异成绩，整体表现接近国际顶尖模型。在此基础上，DeepSeek 还基于 R1-0528 的思维链训练推出了DeepSeek-R1-0528-Qwen3-8B蒸馏模型。该模型以Qwen3-8B Base为底座，在AIME 2024 数学测试中的准确率相比原始Qwen3-8B 提升约 10%，整体表现接近Qwen3-235B，仅次于DeepSeek-R1-0528本体，非常适合端侧设备部署，为会议纪要生成、文本摘要和多语言交互等应用提供了兼顾高性能与高效率的解决方案。　　搭载了DeepSeek-R1-0528-Qwen3-8B模型的广和通AI解决方案将为智能会议机带来全新的体验。DeepSeek-R1-0528模型强大的自然语言处理能力，能够实时、准确地进行语音精准识别和转写，并快速生成会议纪要摘要，大大提升了会议效率。结合广和通在AI语音解决方案方面的技术积累，其AI语音方案具备强抗噪性、离线理解力，助力会议机实现更自然的多语言语音交互，适用于跨国企业或多语种会议环境。虽然DeepSeek-R1-0528-Qwen3-8B关闭了中间思考过程的输出以提升响应速度，但模型保留了完整的思维链，确保了其在处理复杂逻辑和生成高质量文本时的深度和准确性。　　本次广和通在MT8893平台成功部署DeepSeek-R1-0528-Qwen3-8B模型，并针对智能会议机等场景优化，体现了其软硬件一体化的全栈式解决方案能力。端侧AI正加速渗透千行百业。广和通持续携手AI合作伙伴，推动大模型在边缘侧的高效部署，让智能终端拥有思考能力。
2025-09-24 13:39 阅读量：189
广和通新一代Fibot具身智能开发平台助力Physical Intelligence π0.5模型实现VLA泛化
行业新闻

广和通新一代Fibot具身智能开发平台助力Physical Intelligence π0.5模型实现VLA泛化

　　8月27日，全球领先的无线通信与AI解决方案提供商广和通发布新一代具身智能开发平台 Fibot。Fibot已成功应用于Physical Intelligence(π公司)最新通用视觉-语言-动作(VLA)模型 π0.5 的数据采集工作，标志着广和通在具身智能(Embodied AI)领域重要的产品突破。　　新一代Fibot搭载了广和通自研的高算力机器人域控制器产品，并在上一代基础上进行全面升级，核心能力聚焦于提升机器人在复杂物理环境中的交互、移动与操作能力。　　VR(虚拟现实)+双臂协同，扩展工作区域： 新一代Fibot实现了基于VR眼镜的实体双臂机器人联动控制，其升降结构行程相比前代产品显著提升，大幅扩展了机械臂在三维空间中的可达工作范围，使机器人能够适应更广泛的实际任务场景。以上结构与性能优化，帮助π0.5模型采集融合视觉、语言、动作等多模态数据，丰富数据采集能力。　　移动底盘优化，提高空间适应性： 为提升机器人在有限空间中的通过性，π0.5 采用了Fibot提供的三轮全向底盘方案，替代了之前的四轮全向底盘。新设计在保持原有底盘卓越稳定性的前提下，有效减小了整体底盘尺寸，使机器人能够在工厂、实验室、家庭、仓储等环境的狭窄通道内灵活穿行，拓展了数据采集的应用边界。　　“Fibot的成功部署并支持π0.5 模型进行高效数据采集，是广和通作为Physical Intelligence坚实合作伙伴和重要供应商的关键里程碑。” 广和通AIC事业部总经理张泫舜表示，“此次Fibot升级不仅体现了我们在机器人机械结构、运动控制和系统集成方面的深厚积累，广和通还致力于通过高性能、高可靠性的机器人域控制器产品，赋能客户加速具身智能模型研发与端侧部署。”　　作为 Physical Intelligence 的解决方案供应商，广和通凭借其在通信、硬件设计与系统集成方面的综合优势，为具身智能行业的客户提供从核心硬件平台到系统优化的全方位支持。Fibot 系列具身智能平台的持续迭代，正是广和通推动具身智能技术从实验室走向广阔应用场景的重要载体。　　广和通将持续投入产品与研发资源，深化与Physical Intelligence等前沿AI研究机构和行业伙伴的合作，共同推动具身智能技术的演进，为行业客户提供更强大算力、更易部署模型的机器人域控制器产品，解锁机器人在复杂现实世界中学习和执行任务的无限潜能。
2025-08-28 09:46 阅读量：347
广和通喜提「AIoT优秀方案奖」，MagiCore AI轻量化大模型解决方案获行业认可
行业新闻

广和通喜提「AIoT优秀方案奖」，MagiCore AI轻量化大模型解决方案获行业认可

　　8月26日，第22届elexcon深圳国际电子展暨嵌入式系统展盛大启幕，全球领先的无线通信模组与AI解决方案提供商广和通，凭借其创新的灵核MagiCore AI轻量化大模型解决方案，成功斩获展会重磅奖项——“AIoT优秀方案奖”。该奖项充分肯定了广和通在AI与物联网融合领域的领先技术与场景落地能力。　　广和通灵核MagiCore AI解决方案以高度集成、轻量化部署为核心特点，适用于包挂，儿童陪伴等各类陪伴产品。MagiCore赋予AI陪伴终端多模态交互能力，包括自然语言对话、情绪感知与响应、拟人化动作交互及高还原度IP音色复刻等功能，极大提升了用户在户外出行、家庭陪伴和娱乐学习等场景中的智能化、情感化体验。　　在技术架构层面，灵核MagiCore以4G通信模组为核心，整合包括移动网络流量与大模型服务资费的一体化资源，大幅降低客户部署门槛与运维成本。同时，方案支持WebSocket与RTC架构，确保低延迟、高稳定的云端与端侧协同运算能力。其还具备离线唤醒与端侧降噪处理功能，即便在网络不稳定环境下仍可保持基础交互能力，体现出卓越的环境适应性与用户体验一致性。　　广和通MagiCore方案的推出，不仅拓宽了AIoT技术在消费级终端中的应用边界，也为行业提供了可规模复制的“端云一体”轻量化AI部署范式。目前，MagiCore已助力多个AI陪伴终端实现智能交互并商用量产。　　未来，广和通将继续深化AI与通信技术的融合，围绕AI陪伴、智能终端等多元场景推出更多集成度高、响应迅捷、成本优化的AIoT解决方案，助力全球客户加速智能化转型。
2025-08-27 11:03 阅读量：431
热门分类
盒子，外壳，机架 电缆，电线 电路保护 连接器，互连器件 开发套件 机电产品 嵌入式解决方案 风扇，热管理 光电元件 其它 无源元件 电源 半导体 传感器，变送器 测试与测量
  • 一周热料
  • 紧缺物料秒杀
型号 品牌 询价
CDZVT2R20B ROHM Semiconductor
RB751G-40T2R ROHM Semiconductor
TL431ACLPR Texas Instruments
BD71847AMWV-E2 ROHM Semiconductor
MC33074DR2G onsemi
型号 品牌 抢购
TPS63050YFFR Texas Instruments
STM32F429IGT6 STMicroelectronics
ESR03EZPJ151 ROHM Semiconductor
BP3621 ROHM Semiconductor
IPZ40N04S5L4R8ATMA1 Infineon Technologies
BU33JA2MNVX-CTL ROHM Semiconductor
热门标签
ROHM
Aavid
Averlogic
开发板
SUSUMU
NXP
PCB
传感器
半导体
原厂授权品牌
更多授权品牌>>
资讯排行榜
  • 周排行榜
  • 月排行榜

相关百科
关于我们
AMEYA360微信服务号 AMEYA360微信服务号
AMEYA360商城(www.ameya360.com)上线于2011年，现 有超过3500家优质供应商，收录600万种产品型号数据，100 多万种元器件库存可供选购，产品覆盖MCU+存储器+电源芯 片+IGBT+MOS管+运放+射频蓝牙+传感器+电阻电容电感+ 连接器等多个领域,平台主营业务涵盖电子元器件现货销售、 BOM配单及提供产品配套资料等，为广大客户提供一站式购 销服务。

请输入下方图片中的验证码：

验证码