广和通：“轻量级”小模型如何发挥“重量级”作用？

发布时间：2024-07-30 09:19
作者：AMEYA360
来源：广和通
阅读量：448

　　当大家都还在钻研参数规模达百亿甚至千亿级的大模型时，精巧且兼具性能的小模型已逐步应用于边缘智能终端与嵌入式系统，以“小身板”发挥大作用。相较于大模型，小模型更便于在计算能力和存储空间受限的智能终端运行，在边缘侧即完成计算。

广和通：“轻量级”小模型如何发挥“重量级”作用？

　　端侧AI模型的趋势，变得“越来越小”。

　　大模型指的是参数量巨大的机器学习模型，参数数量通常在数百亿到数千亿之间，具有强大的计算能力和推理能力，获得更好的性能。“小模型”则是参数量在数亿到数十亿之间，存储和计算资源方面的需求相对较低，能够在端侧进行部署和推理。

　　为达到更好的训练效果，小模型的训练语料库可能比大模型更强大，使每一个参数更具价值。另一方面，以大模型为基础，通过知识蒸馏(Knowledge distillation)、量化、剪枝等模型压缩方法也是打造高质小模型的方式之一。今年4月，Meta发布了最新一代大模型Llama 3，其小参数模型效率高于Llama 2的大参数模型。如何让更小的模型具备更好的效果，已然是大模型公司的竞争焦点。

　　相比于不得不部署于云端的千亿参数大模型，小模型可在边缘侧实现快速部署和运行，提高终端边缘计算能力和效率。这种“瘦身型”AI算力部署，将提高智能终端的运算能力，实现更多自我学习、自我工作、自我决策的功能。

广和通：“轻量级”小模型如何发挥“重量级”作用？

　　广和通基于高通QCM6490处理器的解决方案搭载了8核高性能处理器，其最高达13TOPS的算力可高效地进行数据计算与处理，运行各类0.5B/1.8B/3B/7B的开源大语言模型，为智能支付、自助服务机、工业检测、具身智能等终端提供了边缘计算的能力。此外，该解决方案还可运行精简小模型，帮助客户在成本、性能、存储、效率上达到平衡。

广和通：“轻量级”小模型如何发挥“重量级”作用？

　　无论是大模型，还是小模型，应用的根本是打造离用户更近的模型，助力各类场景智能化。面向端侧AI部署需求，计算效率高、资源占用少、快速迭代的小模型更能定制化地实现边缘计算能力，充分发挥“高效率”的大作用。


（备注：文章来源于网络，信息仅供参考，不代表本网站观点，如有侵权请联系删除！）

上一篇：松下集团斩获11项红点奖!

下一篇：思瑞浦发布支持振铃抑制功能的汽车级CAN SIC收发器TPT1462xQ

在线留言询价

相关阅读
广和通：机器视觉“慧眼识珠”，看懂AI世界
行业新闻

广和通：机器视觉“慧眼识珠”，看懂AI世界

　　视觉　　是人类认知世界的重要方式　　智能时代　　IoT终端是如何看见和理解世界呢?　　戳视频一探机器视觉奥秘!　　机器视觉的“智慧之眼”　　机器视觉通过图像采集装置　　将物体成像的光信号转换成数字图像信号　　然后传输到专门的图像处理系统　　进行计算、分析和决策　　机器视觉技术应用包括　　图像采集、图像预处理、特征提取　　模式识别、决策输出等过程　　机器视觉的“智见之道”　　常用的深度学习算法包括　　深度估计、图像分类、图像编辑、图像生成　　目标检测、姿态估计、语义分割、超分辨率　　广和通机器视觉解决方案　　广和通智能模组及解决方案　　能高效处理图片及影像　　支持AI模型边缘部署和高速推理　　助力客户实现计算机视觉端侧部署　　广泛应用于　　高端智能影像、工业视觉、具身机器人等领域　　人工智能及深度学习　　正推动机器视觉发展　　帮助人类在生活和工作中　　看懂这个世界　　提升生产生活效率
2024-09-04 15:32 阅读量：363
广和通智能模组SC126助割草机器人商用落地
行业新闻

广和通智能模组SC126助割草机器人商用落地

　　8月，广和通宣布其智能模组SC126助力客户的割草机器人商用落地。搭载SC126的割草机器人将广泛应用于户外花园、家庭庭院、公共绿地等场所。　　作为轮式移动机器人，客户的割草机器人具备自动割草、智能路径规划、自主避障、智能回充、远程控制等功能。在智能定位上，割草机器人采用“GPS+视觉+惯性导航”算法，可实现厘米级定位精度，为边界识别、全覆盖路径规划、自主避障提供了定位基础。再者，割草机融合AI算法，可预先设置多块工作区域，形成虚拟电子边界地图从而进行工作。割草机采用智能路径规划和智能避障系统，在以最优路径进行工作的同时，精准避开动态及静态物品，提高割草效率。当电量较低或遇到降雨时，割草机将进行智能回充，保持充足电量。割草机配备智能APP进行远程控制和规划，用户可提前设定割草计划，从而优化用户体验。　　广和通智能模组SC126助割草机器人实现以上功能，为客户提供高效、安全、智能的技术支持，帮助客户快速推出终端。作为支持多通信制式、综合能力均衡的SoC平台，SC126基于高通11nm制程工艺的QCM2290物联网解决方案设计，拥有四核64位Cortex-A53处理器，主频高达2.0GHz，为终端带来更优的成本效益、强图形处理能力与更佳图像质量。SC126支持多种AI算法，包括感知、视觉、定位、回充等算法，充分满足割草机器人开发需求。高通QCM2290支持更长的软硬件维护周期，可提供稳定供货和软硬件支持至2028年，终端开发灵活度更具弹性。值得一提的是，SC126采用Linux操作系统，其稳定内核和系统架构、强大开源社区、高安全性及高度可定制化等性能适用于割草机器人等终端。　　在通信能力方面， SC126支持多种制式的远距蜂窝通信和双频Wi-Fi/Bluetooth近距离无线传输技术，助力终端灵活接入无线网络。SC126同时支持GNSS无线定位技术，如GPS/Beidou/GLONASS等，具备更精准高效的定位能力。为便于拓展至更多终端形态，SC126拥有MIPI/CSI/USB/UART/SPI/I2C等多种扩展接口，支持双ISP多路摄像头接入，可外接FHD触摸屏，满足零售、工业、家居等高清大屏的应用需求。　　随着AIoT技术的不断发展，智能割草机器人的渗透率将进一步增加。广和通积极研发AI解决方案及布局相关市场，多款智能模组及解决方案已帮助割草机客户快速部署终端，为用户带来更加智能、高效、安全的割草体验。
2024-08-27 09:20 阅读量：394
广和通端侧AI解决方案驱动性能密集型场景商用型场景商用
行业新闻

广和通端侧AI解决方案驱动性能密集型场景商用型场景商用

　　2024世界机器人大会期间，广和通宣布：基于高通QCS8550平台的广和通端侧AI解决方案高效使能性能密集型场景。该端侧AI解决方案整合强大AI算力、边缘侧AI数据分析及Wi-Fi 7连接方式，可为自主移动机器人、工业无人机、云服务器和AI边缘计算盒子等物联网应用提供端侧AI部署能力。　　该解决方案采用先进工艺制程和低功耗设计，具备出色的能效表现，使移动机器人保持高效性能的同时延长工作时间。其先进的AI处理能力支持复杂的视觉识别和自主决策，搭载该解决方案的机器人能够进行智能环境感知和精准操作。在智能制造产业，移动机器人利用该解决方案的图像处理能力进行精准的产品缺陷检测和自动调整操作，提升生产效率和产品质量。同时，高通QCS8550的高效计算支持路径规划和动态避障，使机器人在复杂环境中流畅安全地工作。　　面向矿业、建筑和农业等领域的低空勘测与监控需求，广和通基于高通QCS8550的解决方案具备卓越的图形和视频处理能力，使得工业无人机可实时传输并处理高分辨率图像和视频，及时监控环境并识别潜在风险，提升矿业建筑、地理勘探、农业监控的安全性。解决方案的低功耗设计确保无人机在长时间飞行中保持稳定性能，其优化的AI架构增强数据分析和智能决策能力，提高无人机任务执行效率。　　在数据处理上，该解决方案拥有快速、低时延处理大量数据的优势，可应用于复杂的AI场景。部署了该解决方案的云服务器可以实时分析来自各地的视频数据，优化城市管理和公共安全。基于QCS8550的端侧AI解决方案支持Wi-Fi 7连接能力，确保高效的数据传输和低延迟的网络连接，提升系统性能和可靠性。　　搭载了基于高通8550端侧AI解决方案的边缘计算盒子能够在本地进行高效的数据存储、计算和响应处理，减少对云端计算的依赖，广泛应用于智慧零售、智慧安防、智能制造、智慧交通等领域。边缘计算盒子可实时分析人员行为数据，提供个性化信息推荐及提醒。同时，解决方案在图形和视频处理能力支持高清视频监控和实时图像分析，增强了应用场景的灵活性和智能化水平。　　边缘侧AI处理和推理将加速物联网终端智能化，增强个性化的用户体验并优化终端成本，提升新质生产力。广和通将持续加大对端侧AI的研发与市场投入，携手产业伙伴共同构建完善端侧AI生态系统，助推科技创新和应用发展。
2024-08-23 11:13 阅读量：277
广和通通过IEC 62443-4-1网络安全体系认证
行业新闻

广和通通过IEC 62443-4-1网络安全体系认证

　　近日，广和通已成功通过国际知名认证机构必维集团(Bureau Veritas，简称“必维”)的严格评估，正式获得IEC 62443-4-1网络安全体系认证证书，这标志着广和通在网络安全领域达到了国际化标准。　　广和通高级副总裁许宁(左1)、必维集团电子电气服务中国区总经理张剑(右1)　　颁证仪式于广和通深圳总部举办。广和通高级副总裁许宁先生，总工程师张建国先生，国内认证部总监马鹏霄先生、必维集团电子电气服务中国区总经理张剑先生，必维集团电子电气服务中国华南区销售经理徐少锐先生等出席本次颁证仪式。　　IEC 62443系列标准是国际电工委员会(IEC)针对工业自动化和控制系统网络安全制定的一系列高标准要求。其中，IEC62443-4-1专注于产品安全开发生命周期管理，详细规定了产品安全开发生命周期要求，包括安全管理、安全需求规范、安全设计、安全实施、安全测试、安全问题管理、安全更新管理、安全导则等八大实践。本次顺利通过了该认证，意味着广和通已具备组织级端到端的安全开发生命周期(SDL)体系，产品和系统在设计、研发、集成及部署的各个环节均严格遵循网络安全标准与规范，为全球客户提供安全可靠的产品和服务。　　广和通IEC62443-4-1证书　　必维集团电子电气服务中国区总经理张剑表示：　　近年来，随着万物互联和AI人工智能的快速发展，网络安全领域产生了巨大需求，各行业领军企业纷纷聚焦于此，网络安全也日益受到重视，众多企业开始引进相关人才。我们对广和通获得网络安全体系认证表示祝贺，同时也期待双方未来在认证领域持续合作，助力行业更好更快地发展。　　广和通高级副总裁许宁表示：　　网络安全已成为各行各业关注的焦点，广和通深知网络安全的重要性，因此我们不断提升自身在网络安全方面的能力和水平。广和通获得网络安全体系认证，在产品开发整个过程中落地网络安全措施，在产品能力和技术解决方案上构建更完整的规划。通过此次网络安全体系认证，广和通希望为物联网产业链和人工智能领域做出贡献。
2024-08-20 10:33 阅读量：263
热门分类
盒子，外壳，机架 电缆，电线 电路保护 连接器，互连器件 开发套件 机电产品 嵌入式解决方案 风扇，热管理 光电元件 其它 无源元件 电源 半导体 传感器，变送器 测试与测量
  • 一周热料
  • 紧缺物料秒杀
型号 品牌 询价
MC33074DR2G onsemi
RB751G-40T2R ROHM Semiconductor
BD71847AMWV-E2 ROHM Semiconductor
TL431ACLPR Texas Instruments
CDZVT2R20B ROHM Semiconductor
型号 品牌 抢购
TPS63050YFFR Texas Instruments
ESR03EZPJ151 ROHM Semiconductor
BU33JA2MNVX-CTL ROHM Semiconductor
STM32F429IGT6 STMicroelectronics
BP3621 ROHM Semiconductor
IPZ40N04S5L4R8ATMA1 Infineon Technologies
热门标签
ROHM
Aavid
Averlogic
开发板
SUSUMU
NXP
PCB
传感器
半导体
原厂授权品牌
更多授权品牌>>
资讯排行榜
  • 周排行榜
  • 月排行榜

相关百科
关于我们
AMEYA360微信服务号 AMEYA360微信服务号
AMEYA360商城(www.ameya360.com)上线于2011年，现 有超过3500家优质供应商，收录600万种产品型号数据，100 多万种元器件库存可供选购，产品覆盖MCU+存储器+电源芯 片+IGBT+MOS管+运放+射频蓝牙+传感器+电阻电容电感+ 连接器等多个领域,平台主营业务涵盖电子元器件现货销售、 BOM配单及提供产品配套资料等，为广大客户提供一站式购 销服务。