广和通：“轻量级”小模型如何发挥“重量级”作用？

发布时间：2024-07-30 09:19
作者：AMEYA360
来源：广和通
阅读量：553

　　当大家都还在钻研参数规模达百亿甚至千亿级的大模型时，精巧且兼具性能的小模型已逐步应用于边缘智能终端与嵌入式系统，以“小身板”发挥大作用。相较于大模型，小模型更便于在计算能力和存储空间受限的智能终端运行，在边缘侧即完成计算。

广和通：“轻量级”小模型如何发挥“重量级”作用？

　　端侧AI模型的趋势，变得“越来越小”。

　　大模型指的是参数量巨大的机器学习模型，参数数量通常在数百亿到数千亿之间，具有强大的计算能力和推理能力，获得更好的性能。“小模型”则是参数量在数亿到数十亿之间，存储和计算资源方面的需求相对较低，能够在端侧进行部署和推理。

　　为达到更好的训练效果，小模型的训练语料库可能比大模型更强大，使每一个参数更具价值。另一方面，以大模型为基础，通过知识蒸馏(Knowledge distillation)、量化、剪枝等模型压缩方法也是打造高质小模型的方式之一。今年4月，Meta发布了最新一代大模型Llama 3，其小参数模型效率高于Llama 2的大参数模型。如何让更小的模型具备更好的效果，已然是大模型公司的竞争焦点。

　　相比于不得不部署于云端的千亿参数大模型，小模型可在边缘侧实现快速部署和运行，提高终端边缘计算能力和效率。这种“瘦身型”AI算力部署，将提高智能终端的运算能力，实现更多自我学习、自我工作、自我决策的功能。

广和通：“轻量级”小模型如何发挥“重量级”作用？

　　广和通基于高通QCM6490处理器的解决方案搭载了8核高性能处理器，其最高达13TOPS的算力可高效地进行数据计算与处理，运行各类0.5B/1.8B/3B/7B的开源大语言模型，为智能支付、自助服务机、工业检测、具身智能等终端提供了边缘计算的能力。此外，该解决方案还可运行精简小模型，帮助客户在成本、性能、存储、效率上达到平衡。

广和通：“轻量级”小模型如何发挥“重量级”作用？

　　无论是大模型，还是小模型，应用的根本是打造离用户更近的模型，助力各类场景智能化。面向端侧AI部署需求，计算效率高、资源占用少、快速迭代的小模型更能定制化地实现边缘计算能力，充分发挥“高效率”的大作用。


（备注：文章来源于网络，信息仅供参考，不代表本网站观点，如有侵权请联系删除！）

上一篇：松下集团斩获11项红点奖!

下一篇：思瑞浦发布支持振铃抑制功能的汽车级CAN SIC收发器TPT1462xQ

在线留言询价

相关阅读
广和通发布新一代智能模组SC636系列，加速支付与工业手持智能化
行业新闻

广和通发布新一代智能模组SC636系列，加速支付与工业手持智能化

　　近期，广和通发布基于展锐UIS7861平台的新一代LTE智能模组SC636系列，覆盖EAU/ CN/ LA等区域，以及仅支持Wi-Fi和BT通信的版本。该系列产品在无线通信、多媒体处理、可拓展性上满足智能支付、电力监拍、智能工业手持等场景对长生命周期的需求，是高价值的智能模组解决方案。　　高性能、高稳定性的强劲内核　　智能模组SC636系列采用展锐UIS7861平台，其集成了双核ARM Cortex-A75与六核ARM Cortex-A55处理器，主频可达1.6GHz;其同时内置Arm Mali™ -G57 GPU，进一步提升图像处理能力。得益于卓越芯片性能，该系列模组支持多任务处理与复杂计算，能够轻松应对支付与工业手持终端的高性能需求。　　支持丰富的网络制式与定位能力　　作为支持多网络制式的智能模组，SC636系列模组支持LTE Cat.4网络，覆盖全球主流运营商频段，最大下行速率达150Mbps，具备广泛的网络覆盖和数据传输能力，确保支付/工业等设备能够在各种网络环境中稳定连接。同时，SC636系列还支持2.4GHz和5GHz的双频WiFi、蓝牙5.0短距离通信功能，为智能终端提供多种灵活的连接方式，提升用户体验。此外，SC636集成多星座GNSS接收器，支持GPS/BeiDou/GLONASS/Galileo等定位导航系统，满足终端在不同环境下快速、精准定位的需求。　　支持多媒体功能，助力更多场景的拓展　　为助力智能终端在多媒体性能上的全方位升级，SC636系列支持最高2520*1080 @60fps的主屏，支持单摄和双摄，以及最高三路摄像头同时工作，为客户终端带来高清画质的图像视频体验。同时，SC636系列采用40.5mm*40.5mm的LCC+LGA尺寸封装，集成丰富的外设接口，包括MIPI/ USB/ UART/ SPI/ I2C等，可外接触摸屏，支持双摄像头同时工作，极大助力客户拓展外接设备和应用场景。　　SC636系列搭载开放的智能Android 12操作系统，未来将升级支持Android 14/16，确保终端长生命周期、高可靠、持续升级的稳定运营。　　多地区版本，推动智能产业升级　　为满足不同区域的客户定制化需求，SC636系列拥有面向欧洲、中国、拉美等地区的SC636-EAU/SC636-CN/ SC636-LA区域版本，以及不支持蜂窝，仅支持Wi-Fi和BT的SC636-W版本，为智能支付/智能工业等设备提供高性能、低功耗且安全可靠的解决方案，助力产业进一步升级。　　随着智能设备连接数的不断增长，智慧零售、智慧工业等场景在灵活性、可靠性、长生命周期上对智能解决方案提出了新要求。广和通将持续为智能产业提供一站式AIoT解决方案，为全球客户提供更安全、更便捷、更高效的智能体验。
2024-11-05 09:53 阅读量：170
广和通发布5G模组FG370-KR，加速韩国5G AIoT市场发展
行业新闻

广和通发布5G模组FG370-KR，加速韩国5G AIoT市场发展

　　据韩国通讯委员会(Korea Communications Commission)2023年报告统计，韩国5G用户数已达3281万。同时据全球咨询机构Omdia预测，预计2024年底，韩国5G用户将超过4G，并在2028年达到6900万。目前，韩国5G市场在全球处于领先地位，并展现出强劲的增长趋势。韩国5G加速商用，不仅在工业互联、医疗健康、智慧城市、娱乐和媒体等领域催生出丰富的行业应用，同时加快FWA宽带业务部署。广和通5G模组FG370-KR兼容韩国5G主流频段，将助力韩国市场快速部署5G FWA。　　FG370-KR 基于高性能MediaTek T830平台，支持3GPP R16演进标准，采用 4nm 制程工艺和 Arm Cortex-A55 四核 CPU，主频性能较上一代MediaTek T750平台提升10%。此外，T830 还内置硬件级的 MediaTek 网络加速引擎(Network Processing Unit)和 Wi-Fi 网络加速引擎(Wi-Fi Offload Engine)，可在不增加 CPU 负载的前提下，为 5G 蜂窝网络传输到以太网或 Wi-Fi 提供千兆级的吞吐性能，带来非凡网络体验。　　在5G速率方面，FG370-KR集成M80 5G调制解调器，支持 Sub-6GHz 全频段5G网络，助力终端客户畅享5G宽带体验。FG370-KR支持FDD和TDD混合模式下高达 300MHz 频宽和下行的 NR 4CA(四载波聚合)、以及上行的 NR 2CA(双载波聚合) ，提供下行速率高达7Gbps的5G速率。在信号覆盖方面，FG370-KR支持 HPUE(High Power User Equipment，高功率用户设备)技术的 PC2，这使得5G上行能力得到增强，并帮助增大 5G有效覆盖范围。　　FG370-KR支持丰富外设接口，包括3个PCI-Express、USB 3.2、速率高达10GbE的两个 USXGMII接口，并可通过PCM/SPI接口扩展至 SLIC 功能，从而支持 RJ11 电话接口。与此同时，FG370-KR还支持多样化的存储配置，能够灵活高效地满足不同应用的各类存储需求。在 MediaTek 5G UltraSave 省电技术的加持下，FG370-KR可根据 5G 网络环境优化工作模式，降低通信功耗，大大提升宽带接入产品的用户体验。　　得益于以上软硬件特性，FG370-KR将持续为终端客户打造性能更佳、速率更高、专业性更强的综合解决方案。广和通作为全球领先的MBB FWA解决方案引领者，将持续为全球5G市场提供创新产品与解决方案，推动5G宽带加速发展。　　广和通MBB产品管理部副总裁陶曦表示：　　面向快速发展的韩国5G市场，广和通率先推出了高性能5G模组FG370-KR，帮助本地运营商及终端客户快速取得FWA商业成功。基于MediaTek T830 平台的FG370-KR融合芯片强大的5G特性，其卓越品质将持续赋能智慧家庭、企业办公等智能化场景。未来，广和通将不断为5G应用领域提供高价值5G解决方案。
2024-11-01 13:46 阅读量：296
广和通5G RedCap模组获2024 Mobile Breakthrough Award
行业新闻

广和通5G RedCap模组获2024 Mobile Breakthrough Award

　　10月24日，广和通5G RedCap模组FG132系列凭借其卓越的产品特性和典型商用案例在2024 Mobile Breakthrough Award(2024年度移动设备突破奖)中斩获Embedded Wireless Solution of the Year(年度最佳嵌入式无线解决方案)。 Mobile Breakthrough是行业领先的独立市场研究机构，其创办的Mobile Breakthrough Award奖项旨在表彰当今全球无线通信和移动市场的顶级公司、技术和产品。广和通RedCap模组FG132系列从多个参评项目中脱颖而出，展现了其在移动宽带、工业互联、智慧安防等高可靠低时延场景中的强劲性能。　　RedCap作为5G轻量化技术，满足中高速物联网需求，推动5G产业持续发展。目前，模组和终端在RedCap双向发力，在移动宽带、智能电网、工业互联、中高速视频上传等行业有望规模部署，满足低成本、低功耗、低时延的关键诉求。广和通采用多尺寸、高兼容、适合丰富行业应用的RedCap产品策略，已推出了多款RedCap模组，并为多个行业提供解决方案。目前，RedCap模组FG132-GL已成功通过多项国际认证，包括GCF认证、FCC、IC、PTCRB、CE认证等，满足全球多个市场对RedCap网络连接的严苛要求。广和通RedCap模组已应用于亚旭电脑等多家AIoT产业伙伴的RedCap终端，助力5G RedCap的商用部署，为5G应用注入新力量。　　Mobile Breakthrough 总经理Steve Johansson表示：　　广和通5G RedCap模组FG132可应用于高可靠的物联网场景，降低5G eMBB解决方案的复杂性和高成本。再者，目前低功耗物联网技术未充分满足现有应用需求，5G RedCap则提供了均衡功耗和成本的解决方案，为中高速物联网应用量身定制。祝贺广和通5G RedCap模组FG132摘得年度最佳嵌入式无线解决方案，在5G创新中始终保持领先地位。
2024-10-29 15:12 阅读量：198
广和通荣登36氪具身智能创新应用案例及《2024年具身智能产业发展研究报告》
企业动态

广和通荣登36氪具身智能创新应用案例及《2024年具身智能产业发展研究报告》

　　面向具身智能应用行业趋势，36氪重磅启动「AI Partner·2024具身智能创新应用案例」征集活动，旨在寻找实际落地应用且具有典型示范效应的具身智能创新应用案例。广和通具身智能机器人开发平台Fibot及算力主控方案入选该应用案例，并收录于36氪《2024年具身智能产业发展研究报告》。　　36氪希望通过案例的征集，全面展示具身智能技术的应用效果与商业价值，为行业内外提供更多经验借鉴，同时探索并发现具身智能在更多未知或新兴领域的应用潜力，拓宽技术应用场景，为人工智能领域的持续发展注入新的活力。　　广和通根据具身智能行业的特殊需求，针对性地开发及优化可部署于边缘侧、基于Linux操作系统的算力主控方案，并推出了具备传感器、机械臂、算力主控的具身智能机器人行业级参考设计。广和通自主研发的具身智能机器人开发平台Fibot不仅具备强大的感知、定位、导航和动作控制能力，充分展现卓越的移动和操作性能，还集成了多种深度学习和强化学习AI算法，能够为客户提供高效、便捷的二次开发环境。　　Fibot不仅能够承担重复性高的生产任务，还能通过自主学习优化生产线流程，提高生产效率和灵活性。在医疗健康领域，其高精度机械手臂可为手术辅助、康复治疗提供有力支持，有效减轻医护人员的工作负担。在灾害救援领域，Fibot能够进入高温、高湿等危险区域进行搜救和灾情评估，极大提升救援效率和安全性。　　未来，随着具身智能技术的不断成熟和跨学科融合的日益加深，广和通具身智能算力主控解决方案将更深入地融入人类社会，实现规模化的落地应用，促进社会生产力的跃升，为人们的生活和工作质量带来实质性改善。
2024-09-29 09:12 阅读量：589
热门分类
盒子，外壳，机架 电缆，电线 电路保护 连接器，互连器件 开发套件 机电产品 嵌入式解决方案 风扇，热管理 光电元件 其它 无源元件 电源 半导体 传感器，变送器 测试与测量
  • 一周热料
  • 紧缺物料秒杀
型号 品牌 询价
BD71847AMWV-E2 ROHM Semiconductor
CDZVT2R20B ROHM Semiconductor
TL431ACLPR Texas Instruments
RB751G-40T2R ROHM Semiconductor
MC33074DR2G onsemi
型号 品牌 抢购
ESR03EZPJ151 ROHM Semiconductor
STM32F429IGT6 STMicroelectronics
BP3621 ROHM Semiconductor
BU33JA2MNVX-CTL ROHM Semiconductor
TPS63050YFFR Texas Instruments
IPZ40N04S5L4R8ATMA1 Infineon Technologies
热门标签
ROHM
Aavid
Averlogic
开发板
SUSUMU
NXP
PCB
传感器
半导体
原厂授权品牌
更多授权品牌>>
资讯排行榜
  • 周排行榜
  • 月排行榜

相关百科
关于我们
AMEYA360微信服务号 AMEYA360微信服务号
AMEYA360商城(www.ameya360.com)上线于2011年，现 有超过3500家优质供应商，收录600万种产品型号数据，100 多万种元器件库存可供选购，产品覆盖MCU+存储器+电源芯 片+IGBT+MOS管+运放+射频蓝牙+传感器+电阻电容电感+ 连接器等多个领域,平台主营业务涵盖电子元器件现货销售、 BOM配单及提供产品配套资料等，为广大客户提供一站式购 销服务。