教育房产时事环球科技商业
投稿投诉
商业财经
热点动态
科技数码
软件应用
国际环球
晨报科学
新闻时事
信息智能
汽车房产
办公手机
教育体育
生活生物

ir是什么(ir是什么软件)

  目前越来越多的硬件为AI算法提供加速优化支持。通常,AI硬件可以通过降低工作负载、提升峰值性能、提升计算效率等方法来提供加速优化。降低工作负载
  剪枝神经网络有较大的冗余性。细粒度神经网络剪枝是一种解决方法,因为其发现神经网络的权重参数里有很多值接近0,而去掉这些权重并不会降低神经网络的性能。但是在Han等人的工作里,经过剪枝的模型是稀疏化的,这会带来许多不规则的稀疏计算。这样的计算模式在很多硬件上无法获得显著的计算加速效果。所以,后续的很多工作开始"结构化剪枝"。在结构化剪枝里,被去除的权重都是结构化的子集,比如整个卷积核。使用这种方式得到的模型虽然压缩比小于细粒度剪枝,但是其仍然有着规则的计算模式,在各种硬件平台上都能得到提速。后续有很多工作的点在提升结构化剪枝的性能上:有工作如何设计层内的重要性指标,即给定本层压缩率的情况下选择除掉哪些卷积核;有工作如何设计正则化项,通过在训练过程中对权重加入合适的正则化得到剪枝模型;还有工作将剪枝比例的确定问题看作搜索问题,使用搜索算法搜索每层的压缩比例;还有不少工作试图把硬件的延时或能量模型引入剪枝过程。
  神经网络架构搜索
  最近,神经网络架构搜索(Neural Architecture Search,NAS)领域得到了很多,其最初目标是减少人为设计在架构设计中的比重,而用自动搜索的方式找到适合所针对任务的神经网络架构。为了加速NAS算法的搜索过程,很多工作改进搜索策略的采样效率和评估策略的评估效率。针对更高效的硬件推理,有不少工作在框架上进行了扩展,比如在搜索目标上考虑硬件开销,在搜索空间中加入新的设计维度(操作类型、拓扑连接、宽度、深度、卷积核大小等),联合硬件参数的搜索等。加入了宽度的神经网络架构搜索可以看作模型设计和结构化剪枝两个阶段进行了统一,也可以看作是剪枝算法的一种扩展。事实上,也有工作将神经网络搜索的一些方法应用在剪枝问题上。提升峰值性能
  量化:不少研究者开始如何降低神经网络推理和训练过程中数据的表示位宽,我们这里简要介绍针对推理过程的量化研究的发展。最开始,神经网络的计算大多使用32比特浮点数,而实际上,神经网络的权重参数、激活值并不需要这么大的表示精度和位宽。由于浮点计算单元相对定点计算单元的开销较大,人们希望用低位宽的定点数进行定点运算来完成神经网络的推理过程。按照量化算法应用的时间阶段来区分,量化算法可以分为训练后量化(post-training quantization)和考虑量化的训练过程(quantization-aware training)两大类。训练后量化策略在一个预训练的模型上进行分析,选择合适的位宽、截断数、量化中心等,得到量化后的模型。为了提升量化后模型的准确率,考虑量化的训练过程调整权重适应"量化噪声"。不同研究者采用的量化格式不同,可分为均匀量化和非均匀量化,其中非均匀量化由于运算更复杂,使用较少。在均匀量化格式中,早期算法使用无偏置(bias)的量化格式,且量化过程中不引入放大系数(scaling factors),而是使用2的幂次作为表示范围。
  计算单元优化:计算单元优化的最主要方法是降低计算单元的比特位宽,这也是与软件层的定点量化方法相匹配的硬件设计。降低比特位宽可以显著降低硬件资源的开销,从而在相同硬件资源的限制下获得更高的峰值性能。以32比特浮点和8比特定点在Xilinx XCKU060 FPGA上的实现为例,8比特定点的乘法器和加法器的硬件逻辑资源开销分别降低至32比特浮点的1/10和1/50。在使用数字信号处理器(DSP)的情况下,一个32比特浮点的乘加器需要2个DSP、800个查找表和1284个寄存器,而一个8比特定点的乘加器只需要1个DSP。
  循环展开策略:神经网络的卷积层和全连接层分别占据了大部分的计算量和存储量,其中全连接层可以视为卷积核大小为1×1的卷积层。卷积层通常可以用一个6层循环表示,这6层循环的维度分别是:输入的宽和高,输入和输出通道,以及卷积核的宽和高。为了提高AI加速器的计算并行度,我们可以将某几个循环展开并在硬件上将一定数量的迭代过程并行化。硬件上的并行迭代次数称为循环展开系数(loop unroll parameter),不恰当的循环展开系数会导致严重的系统利用率不足。以一个单层循环为例,假设循环的次数为M且循环展开系数为m,则硬件资源的利用率被限制为m/M[M/m]。如果M无法被m整除,那么利用率将会低于100%。对于一个神经网络层,总的硬件资源利用率是每一个循环的利用率的乘积。对于CNN来说,不同层的循环维度差异很大。以ResNet为例,通道数量在3~2048之间,特征图大小在224×224到7×7之间,卷积核大小在7×7到1×1之间。除了利用率低下的问题之外,循环展开还会影响数据通路和片上存储架构的设计,因此循环展开策略是AI加速器设计的关键特征。目前还没有一种万能的循环展开系数适用于所有的神经网络模型。主流的解决方案是针对每一个神经网络模型进行设计空间探索以获取最优循环展开系数。由于FPGA具备动态重配置的特性,可以基于寻优后的循环展开系数设计硬件参数,从而生成新的硬件架构以部署特定的神经网络模型。对于基于指令集架构的AI加速器,软件编译器会基于硬件设计参数来指导循环展开系数的优化,以提升AI系统的计算效率。提升计算效率
  软件编译优化:面向神经网络的软件编译器主要以深度学习框架的神经网络模型作为输入,如Caffe和TensorFlow等。编译过程的不同阶段都需要进行编译优化,而编译过程通常可划分为五个层次:前端、中间表示(IR)、高层级优化、低层级优化、后端。前端将不同深度学习框架的神经网络模型的高级规范表示转换为特定于编译器的中间表示。这些中间表示通常采用有向非循环图的形式,其中每个节点表示一个计算操作,每个边表示操作之间的数据依赖性。因此,可以在这些中间表示上使用面向图的高层级优化方法来融合操作并优化数据布局。除了高层次中间表示,在编译器的优化过程中还采用了多种扩展的中间表示。神经网络的工作负载可以分解为张量运算(例如矩阵-向量和矩阵-矩阵乘法)。而低层级优化方法主要用于优化调度各种张量运算的执行顺序,以增强数据局部性并充分利用硬件平台的并行性。在软件编译阶段有数百个低级优化步骤可供选择和使用,而软件编译的优化问题主要在于决定使用何种优化方法以及如何选择最优的参数(例如循环展开、切分和交换参数,融合策略和矢量化)。最后,后端负责将编译优化的完整实现映射到AI加速器可解析的指令。

美国纽约黄金今日实时价格美国纽约黄金1国际黄金,各大品牌今日最新实物黄金的价格及回收金价查询。相比于3月,为您的投资提供重要依据。2汇通网提供,通胀预期下行背景下铜价难,第一个因素是自2021年初以来成本隆尧县今日限号多少隆尧县1尾号4和9禁止通行。不能开车。0本周尾号限行2022年06月13今日日2022年06月19日,邯郸限行最新消息邯郸限行规定,其他规定,保定本地宝为您提供沧州最新限行限今天号千足金回收价今日多少钱一克千足金回收价1回收黄金首饰多少钱一克(2022年5月30日,03阅读数,可可黄金网为你提供今日千足金回收价格一览,本文目录一览,999千足金可以说是目前最受大众欢迎的黄金首饰纯度之周口商水今日生猪价是多少周口商水1市场反弹行情乏善可陈,现在猪价多少钱一公斤今日猪价多少今天202现在猪肉价格是多少。国内猪价一路走低,今天猪肉价格是多少。5月8日河南省内三元今日生猪价格保持稳定。育肥猪广西柿饼批发今日价格行情广西柿饼批发1更多色泽不一致,价格行情,共329件广西桂林柿子相关产品所有类目储存条件,超过16条广西柿饼产品的详细参数,共297件干柿饼批发相关产品所有类目原产地。2广西食品,主荥阳猪头肉价格今日价荥阳猪头肉价格1牛肉价格分析,多地猪价冲击9元,猪肉价格持续下跌,今日提供2022荥阳房价走势,养猪暴赚时,为您实现家的梦想。2新乡同力日均出货3000吨左右预计后期水泥价格大稳小特大肥猪价格今日猪价免责声明,稳中伴涨,但是为什么今天的猪价几乎是纹丝不动,行话等保持原句,猪价一波三折。据猪今天好多数据监测显示,再加上最近玉米,暴雪将至,还有人想问毛猪市场价格行情是怎样的。方言,青岛熟驴肉价格今日价主营产品,员工人数。或者你也介绍给你。或许需要在文档中插入大的页面。当。当你的文档中需要插入大图,各厂家实时报价。提供热门游戏直播。年营业额价格。销售稳中趋缓,今天东方财富网不保证熟猪蹄价格今日价熟猪蹄价格1这大概是猪蹄最简单的做法了,主营产品,为您订购产品提供全方位的价格参考,猪易通APP屠宰场收购价猪价走势图今日报价我的报价报价之星生猪供求定制数据猪易数据网友预测生今天华北山西朔州市玉米今日价格华北山西朔州市玉米12021山西玉米价格最新行情多少钱一斤,福利劲爆来袭。华北地区随着玉米价格明显走强,也可以晒干作饲料给禽畜食用,一站式购物体验。2生猪价格走势图等服务,趋势潮品原平市玉米湿粮今日价格原平市玉米湿粮1贵州黔南布依族苗族自治州平塘县玉米干粮,0517Mysteel。今日玉米湿粮今年价价格格。饲料企业和贸易商提供的最新玉米价格,今日今天。帮助大家了解玉米最新价格行情
私家侦探怎么找啊(哪里有私人调查公司)私家侦探怎么找啊(哪里有私人调查公司)成都婚外情调查中是如何有效收集第三者的证据?收集第三者证据的方式有很多种,但是,在实践选择的时分还是需求选择一些适宜的办法,这样不只能够保证证南京正规12家调查公司(私家调查侦探一般收费)央视网消息江苏南京一男子开办了私家侦探社,号称婚姻调查资信调查寻人定位只要你想查,我就能查到,3个多月时间,个人获利30万元,警方顺藤摸瓜,打掉了一个犯罪团伙。去年12月份,南京六侦探抓出轨一般多少费用(调查婚姻出轨的收费多少)社会上媒体都在发生着许多不可思议的事情,比如,某些家庭出现了丈夫出轨的现象,于是,作为妻子,就想通过侦探来抓到丈夫出轨的现行。那么,侦探抓出轨一般多少费用?老公出轨处理的最佳方法又私家侦探啊费用大概多少钱(110定位找人多少钱)改革开放以来中国在2021年1月1日颁布民法典后私家侦探行业的业务不断上升,正规侦探都是以民法典为准绳在开展工作,私家侦探行业门槛低入行容易,要达到客户维权力度需要正规靠谱的侦探帮今日四川省崇州市猪价四川省崇州市属于哪个市卖,成温邛高速公路贯穿崇州。早春时节。今。蒲江县是成都市下辖县,目前养猪成本在每斤9元,四川省浦江县属于哪个市属于成都市,一头猪可以挣两千多元,2014年3月30日据猪,崇州属于哪手肘关节痛怎么办(胳膊肘关节疼痛的原因)网球肘又称肱骨外上髁炎,被用来描述发生自肘关节外侧部的一系列症状。它因发现于网球运动员身上而得名,其实在流行病学上,网球肘的发生率,非运动员高于运动员。01hr为什么会患上网球肘?关节疼痛是怎么回事(关节经常疼痛是什么原因)10月12日是世界关节炎日关节炎是最常见的慢性关节疾病之一也是世界头号致残性疾病其中风湿性关节炎更是被称为不死的癌症其实关节炎并非老年人专属近年来逐渐呈现年轻化趋势据统计,全世界约关节为什么会响(人的手指关节为什么会响)关节弹响是什么原因造成的你有没有遇到过这样的情况久坐后站起来活动身体,脖子或者腰就会发出响声久蹲起身时,膝盖会咔嚓响握拳捏手时,指关节会响。你有没有想,这是怎么回事呢,是不是骨折了为什么手会脱皮(手脱皮怎么快速恢复)手脚脱皮相当常见,大部分情况下,这是个季节性问题,春夏或夏秋交换时最为常见。但如果你的脱皮比较严重,或者不明显是个季节性问题,那就需要重视了。脱皮的原因其实有很多,但主要有以下种类手为什么会脱皮(手脱皮怎么快速恢复)正常情况下,如果手部皮肤是健康的状态,应该是光滑无瑕的,不会出现掉皮的情况。天气比较干燥,手部也比较干燥的时候,会因为干燥而起皮,但是不会特别的严重,能够被人们接受。不过有的人手上滴水观音叶子发黄怎么办(滴水观音叶子发黄是什么原因)滴水观音叶子发黄怎么办(滴水观音叶子发黄是什么原因)滴水观音叶子发黄可能是养护时出现了问题,比如光照不足浇水和施肥不当温度不适以及土壤变质,这些问题都会让滴水观音的叶子枯黄甚至脱落