广和通：“轻量级”小模型如何发挥“重量级”作用？

发布时间：2024-07-30 09:19
作者：AMEYA360
来源：广和通
阅读量：588

　　当大家都还在钻研参数规模达百亿甚至千亿级的大模型时，精巧且兼具性能的小模型已逐步应用于边缘智能终端与嵌入式系统，以“小身板”发挥大作用。相较于大模型，小模型更便于在计算能力和存储空间受限的智能终端运行，在边缘侧即完成计算。

广和通：“轻量级”小模型如何发挥“重量级”作用？

　　端侧AI模型的趋势，变得“越来越小”。

　　大模型指的是参数量巨大的机器学习模型，参数数量通常在数百亿到数千亿之间，具有强大的计算能力和推理能力，获得更好的性能。“小模型”则是参数量在数亿到数十亿之间，存储和计算资源方面的需求相对较低，能够在端侧进行部署和推理。

　　为达到更好的训练效果，小模型的训练语料库可能比大模型更强大，使每一个参数更具价值。另一方面，以大模型为基础，通过知识蒸馏(Knowledge distillation)、量化、剪枝等模型压缩方法也是打造高质小模型的方式之一。今年4月，Meta发布了最新一代大模型Llama 3，其小参数模型效率高于Llama 2的大参数模型。如何让更小的模型具备更好的效果，已然是大模型公司的竞争焦点。

　　相比于不得不部署于云端的千亿参数大模型，小模型可在边缘侧实现快速部署和运行，提高终端边缘计算能力和效率。这种“瘦身型”AI算力部署，将提高智能终端的运算能力，实现更多自我学习、自我工作、自我决策的功能。

广和通：“轻量级”小模型如何发挥“重量级”作用？

　　广和通基于高通QCM6490处理器的解决方案搭载了8核高性能处理器，其最高达13TOPS的算力可高效地进行数据计算与处理，运行各类0.5B/1.8B/3B/7B的开源大语言模型，为智能支付、自助服务机、工业检测、具身智能等终端提供了边缘计算的能力。此外，该解决方案还可运行精简小模型，帮助客户在成本、性能、存储、效率上达到平衡。

广和通：“轻量级”小模型如何发挥“重量级”作用？

　　无论是大模型，还是小模型，应用的根本是打造离用户更近的模型，助力各类场景智能化。面向端侧AI部署需求，计算效率高、资源占用少、快速迭代的小模型更能定制化地实现边缘计算能力，充分发挥“高效率”的大作用。


（备注：文章来源于网络，信息仅供参考，不代表本网站观点，如有侵权请联系删除！）

上一篇：松下集团斩获11项红点奖!

下一篇：思瑞浦发布支持振铃抑制功能的汽车级CAN SIC收发器TPT1462xQ

在线留言询价

相关阅读
广和通发布5G RedCap MiFi解决方案
行业新闻

广和通发布5G RedCap MiFi解决方案

　　2024年11月，广和通发布覆盖MiFi、CPE、Dongle等全系列商用5G RedCap FWA解决方案，帮助全球运营商及终端客户即刻商用RedCap。　　通过缩减传输带宽、裁剪收发天线数、降低上下行最大调制阶数，RedCap终端相较eMBB终端复杂度下降，已成为中高速物联最佳选择。伴随着产品和技术迭代、RedCap网络建设完善，5G RedCap模组将不断达到性能、成本、功耗三者平衡点，可帮助终端快速抢占5G商用先机。　　5G SA网络是RedCap网络建设的基础条件，目前，全球运营商SA网络均在稳定部署。据GSA最新数据显示，截至2024年9月，在全球343家运营商的5G商用网络中，已有63张SA独立组网。　　据中国移动《5G轻量化技术(RedCap)行业解决方案白皮书》显示，截至2024年三季度末，中国移动开通超43万的5G RedCap基站，已经实现全国所有县城以上区域 n28(700MHz) RedCap 连续覆盖，并也已按需开通n41/n79(2.6GHz/4.9GHz )RedCap功能。再者，在连片组网性能方面，RedCap 1T2R终端在n28(700MHz)网络中上行平均速率可达 86Mbps，下行平均速率可达105Mbps。在移动性方面，RedCap 终端在现网连片组网环境下，可实现时延30ms 内的5G系统内互操作，以及时延在70ms 内的5G系统与4G 系统互操作。　　以上可以看出，RedCap在中高速率、网络连续覆盖以及4G/5G平滑切换上均可满足MiFi这种移动宽带应用的要求，将加速RedCap在MiFi的规模应用。　　广和通瞄准FWA典型应用场景，为市场提供优于5G eMBB成本、低于LTE Cat.4功耗的RedCap模组及解决方案。本次发布的RedCap MiFi解决方案搭载广和通RedCap模组FG131或FG132系列，可灵活搭配多款高通平台Wi-Fi芯片，延展出Wi-Fi能力高达3600Mbps的Wi-Fi 6E方案，1800Mbps的Wi-Fi 6方案以及867Mbps的Wi-Fi 5方案。　　广和通RedCap模组FG131&FG132系列基于骁龙X35 5G调制解调器及射频系统开发，最高下行峰值可达223Mbps，最高上行峰值达123Mbps。在无5G SA网络覆盖，并回落至4G的情况下，FG131和FG132系列仍可支持下行256QAM，最高速率可达195Mbps，相比LTE Cat.4提升33%。上行可支持64QAM，最高速率可达75Mbps，相比LTE Cat.4提升50%;　　除了优于标准RedCap的蜂窝能力，FG131&FG132系列还具备以下两大特性：支持基于Linux内核操作系统的OpenWRT，其拥有强大的网络组件，使得客户可灵活安装网络功能软件包，特别适用于MiFi、CPE等FWA终端开发。其次， FG131系列和FG132系列集成1.25Gbps SGMII接口，可高效拓展出RJ45有线网口，适用于MiFi、CPE等需带网口的FWA终端。　　得益于以上多方面优势，广和通RedCap模组FG131&FG132系列具备卓越RedCap能力，特别适用于MiFi、CPE等FWA终端，助力客户更快用好RedCap。
2024-11-22 09:29 阅读量：150
广和通机器视觉与听觉解决方案荣膺AIoT新维奖杰出案例榜
行业新闻

广和通机器视觉与听觉解决方案荣膺AIoT新维奖杰出案例榜

　　11月20日，由物联网智库、智次方研究院主办，广东省物联网协会、无锡物联网创新促进中心、深圳市物联网协会、深圳市智能传感行业协会协办的2025中国AIoT产业年会暨万物智联2.0前瞻洞察大典在深圳举办。作为AIoT产业盛会，大会评选了“AIoT新维奖”系列榜单，广和通机器视觉与听觉解决方案荣登杰出案例榜。　　机器视觉与听觉技术为智能终端提供了“眼睛”和“耳朵”，使其能够感知环境，识别物体和人体，并做出相应的反应。广和通提供在计算能力、视频编解码、图像处理、网络连接(支持蓝牙、Wi-Fi 6/6E等多种无线通信方式)等方面都具备领先优势的智能模组及解决方案，帮助客户实现机器视觉与听觉端侧部署，可在高端智能影像、工业视觉、具身机器人等领域广泛应用。　　搭载广和通机器视觉与听觉解决方案的终端可实现物体识别、分割、拼接与分类，畸变校正，追踪与计数，以及人脸识别等功能。在图像处理上，该解决方案集成先进的 GPU/NPU 加速技术和高分辨率能力，支持复杂的图像识别与编解码、目标检测和实时数据分析。解决方案还支持ChatGPT、通义千问、LIama、文心一言等大语言模型，提高信息处理效率。广和通为客户提供从机器视觉与听觉算法选择、训练、部署的端到端解决方案，提高终端部署效率。　　随着AI产业快速发展，机器视觉等技术和应用越来越广泛。广和通深度挖掘智能终端客户需求，持续投入机器视觉等端侧AI产品与技术，帮助客户用好AI。广和通也将携手AI产业伙伴，共同推动端侧AI商业落地。
2024-11-21 13:42 阅读量：246
广和通发布新一代智能模组SC636系列，加速支付与工业手持智能化
行业新闻

广和通发布新一代智能模组SC636系列，加速支付与工业手持智能化

　　近期，广和通发布基于展锐UIS7861平台的新一代LTE智能模组SC636系列，覆盖EAU/ CN/ LA等区域，以及仅支持Wi-Fi和BT通信的版本。该系列产品在无线通信、多媒体处理、可拓展性上满足智能支付、电力监拍、智能工业手持等场景对长生命周期的需求，是高价值的智能模组解决方案。　　高性能、高稳定性的强劲内核　　智能模组SC636系列采用展锐UIS7861平台，其集成了双核ARM Cortex-A75与六核ARM Cortex-A55处理器，主频可达1.6GHz;其同时内置Arm Mali™ -G57 GPU，进一步提升图像处理能力。得益于卓越芯片性能，该系列模组支持多任务处理与复杂计算，能够轻松应对支付与工业手持终端的高性能需求。　　支持丰富的网络制式与定位能力　　作为支持多网络制式的智能模组，SC636系列模组支持LTE Cat.4网络，覆盖全球主流运营商频段，最大下行速率达150Mbps，具备广泛的网络覆盖和数据传输能力，确保支付/工业等设备能够在各种网络环境中稳定连接。同时，SC636系列还支持2.4GHz和5GHz的双频WiFi、蓝牙5.0短距离通信功能，为智能终端提供多种灵活的连接方式，提升用户体验。此外，SC636集成多星座GNSS接收器，支持GPS/BeiDou/GLONASS/Galileo等定位导航系统，满足终端在不同环境下快速、精准定位的需求。　　支持多媒体功能，助力更多场景的拓展　　为助力智能终端在多媒体性能上的全方位升级，SC636系列支持最高2520*1080 @60fps的主屏，支持单摄和双摄，以及最高三路摄像头同时工作，为客户终端带来高清画质的图像视频体验。同时，SC636系列采用40.5mm*40.5mm的LCC+LGA尺寸封装，集成丰富的外设接口，包括MIPI/ USB/ UART/ SPI/ I2C等，可外接触摸屏，支持双摄像头同时工作，极大助力客户拓展外接设备和应用场景。　　SC636系列搭载开放的智能Android 12操作系统，未来将升级支持Android 14/16，确保终端长生命周期、高可靠、持续升级的稳定运营。　　多地区版本，推动智能产业升级　　为满足不同区域的客户定制化需求，SC636系列拥有面向欧洲、中国、拉美等地区的SC636-EAU/SC636-CN/ SC636-LA区域版本，以及不支持蜂窝，仅支持Wi-Fi和BT的SC636-W版本，为智能支付/智能工业等设备提供高性能、低功耗且安全可靠的解决方案，助力产业进一步升级。　　随着智能设备连接数的不断增长，智慧零售、智慧工业等场景在灵活性、可靠性、长生命周期上对智能解决方案提出了新要求。广和通将持续为智能产业提供一站式AIoT解决方案，为全球客户提供更安全、更便捷、更高效的智能体验。
2024-11-05 09:53 阅读量：228
广和通发布5G模组FG370-KR，加速韩国5G AIoT市场发展
行业新闻

广和通发布5G模组FG370-KR，加速韩国5G AIoT市场发展

　　据韩国通讯委员会(Korea Communications Commission)2023年报告统计，韩国5G用户数已达3281万。同时据全球咨询机构Omdia预测，预计2024年底，韩国5G用户将超过4G，并在2028年达到6900万。目前，韩国5G市场在全球处于领先地位，并展现出强劲的增长趋势。韩国5G加速商用，不仅在工业互联、医疗健康、智慧城市、娱乐和媒体等领域催生出丰富的行业应用，同时加快FWA宽带业务部署。广和通5G模组FG370-KR兼容韩国5G主流频段，将助力韩国市场快速部署5G FWA。　　FG370-KR 基于高性能MediaTek T830平台，支持3GPP R16演进标准，采用 4nm 制程工艺和 Arm Cortex-A55 四核 CPU，主频性能较上一代MediaTek T750平台提升10%。此外，T830 还内置硬件级的 MediaTek 网络加速引擎(Network Processing Unit)和 Wi-Fi 网络加速引擎(Wi-Fi Offload Engine)，可在不增加 CPU 负载的前提下，为 5G 蜂窝网络传输到以太网或 Wi-Fi 提供千兆级的吞吐性能，带来非凡网络体验。　　在5G速率方面，FG370-KR集成M80 5G调制解调器，支持 Sub-6GHz 全频段5G网络，助力终端客户畅享5G宽带体验。FG370-KR支持FDD和TDD混合模式下高达 300MHz 频宽和下行的 NR 4CA(四载波聚合)、以及上行的 NR 2CA(双载波聚合) ，提供下行速率高达7Gbps的5G速率。在信号覆盖方面，FG370-KR支持 HPUE(High Power User Equipment，高功率用户设备)技术的 PC2，这使得5G上行能力得到增强，并帮助增大 5G有效覆盖范围。　　FG370-KR支持丰富外设接口，包括3个PCI-Express、USB 3.2、速率高达10GbE的两个 USXGMII接口，并可通过PCM/SPI接口扩展至 SLIC 功能，从而支持 RJ11 电话接口。与此同时，FG370-KR还支持多样化的存储配置，能够灵活高效地满足不同应用的各类存储需求。在 MediaTek 5G UltraSave 省电技术的加持下，FG370-KR可根据 5G 网络环境优化工作模式，降低通信功耗，大大提升宽带接入产品的用户体验。　　得益于以上软硬件特性，FG370-KR将持续为终端客户打造性能更佳、速率更高、专业性更强的综合解决方案。广和通作为全球领先的MBB FWA解决方案引领者，将持续为全球5G市场提供创新产品与解决方案，推动5G宽带加速发展。　　广和通MBB产品管理部副总裁陶曦表示：　　面向快速发展的韩国5G市场，广和通率先推出了高性能5G模组FG370-KR，帮助本地运营商及终端客户快速取得FWA商业成功。基于MediaTek T830 平台的FG370-KR融合芯片强大的5G特性，其卓越品质将持续赋能智慧家庭、企业办公等智能化场景。未来，广和通将不断为5G应用领域提供高价值5G解决方案。
2024-11-01 13:46 阅读量：346
热门分类
盒子，外壳，机架 电缆，电线 电路保护 连接器，互连器件 开发套件 机电产品 嵌入式解决方案 风扇，热管理 光电元件 其它 无源元件 电源 半导体 传感器，变送器 测试与测量
  • 一周热料
  • 紧缺物料秒杀
型号 品牌 询价
TL431ACLPR Texas Instruments
BD71847AMWV-E2 ROHM Semiconductor
MC33074DR2G onsemi
RB751G-40T2R ROHM Semiconductor
CDZVT2R20B ROHM Semiconductor
型号 品牌 抢购
BU33JA2MNVX-CTL ROHM Semiconductor
TPS63050YFFR Texas Instruments
BP3621 ROHM Semiconductor
ESR03EZPJ151 ROHM Semiconductor
STM32F429IGT6 STMicroelectronics
IPZ40N04S5L4R8ATMA1 Infineon Technologies
热门标签
ROHM
Aavid
Averlogic
开发板
SUSUMU
NXP
PCB
传感器
半导体
原厂授权品牌
更多授权品牌>>
资讯排行榜
  • 周排行榜
  • 月排行榜

相关百科
关于我们
AMEYA360微信服务号 AMEYA360微信服务号
AMEYA360商城(www.ameya360.com)上线于2011年，现 有超过3500家优质供应商，收录600万种产品型号数据，100 多万种元器件库存可供选购，产品覆盖MCU+存储器+电源芯 片+IGBT+MOS管+运放+射频蓝牙+传感器+电阻电容电感+ 连接器等多个领域,平台主营业务涵盖电子元器件现货销售、 BOM配单及提供产品配套资料等，为广大客户提供一站式购 销服务。