当前位置: 首页 > news >正文

濮阳做网站优化wordpress转换tpecho

濮阳做网站优化,wordpress转换tpecho,wordpress用户投稿插件,广西南宁网站优化目前在做实验#xff0c;参考了一个新的网络架构之后发现训练时损失出现Nan#xff0c;参数了出现了inf的情况#xff0c;先说说我的排查经历。 首先肯定是打印损失#xff0c;损失是最容易出现Nan的#xff0c;有各种原因#xff0c;网上也有很多解决办法#xff0c;我…目前在做实验参考了一个新的网络架构之后发现训练时损失出现Nan参数了出现了inf的情况先说说我的排查经历。 首先肯定是打印损失损失是最容易出现Nan的有各种原因网上也有很多解决办法我这里就不一一赘述了大伙打开CSDN就一搜就有很多很全的 我的问题是在训练的中间参数中出现了inf导致最终的损失为NaN或者inf 用下面的代码判断参数是否出现了NaN或者inf for i in range(5): # exam是一个参数列表if torch.isnan(exeam[i]).any(): print(下表为{}的元素存在NaN.format(i))if torch.isinf(exeam[i]).any(): print(下表为{}的元素存在inf.format(i)) 确定是哪些为NaN之后直接上Relu或者归一化很可惜没用。。。 我参考的文章是这两篇 Vision Transformers for Single Image Dehazing MixDehazeNet : Mix Structure Block For Image Dehazing Network 这两篇文章中都用到了soft reconstruction。现在我还搞不明白这东西是啥 模仿论文MixDehazeNet的代码将生成的参数按照下面的代码计算下 # feat是网络输出的结果10通道 K, atp, tran, B torch.split(feat, (1, 3, 3, 3), dim1)# x是网络的输入 atp K * atp - atp x tran K * tran - tran x x K * x - B x # H, W是限定的尺寸 rgb x[:, :, :H, :W] atp atp[:, :, :H, :W] tran tran[:, :, :H, :W] 这样一弄问题就解决了 我分析了下原因代码中的参数出现NaN是因为出现了除以0的情况加上了soft reconstruction之后类似于全局残差关键是后面加上x的那个操作是原先为0的参数变得不为0了除以0的情况消失了就不存在NaN啦。 我是做视觉方向的全局残差机制ResNetFFA-Net在视觉中可谓是有百利而无一害所以这样加应该没问题的 疑问 soft reconstruction究竟是什么东西呢网上的资料甚少chatGPT也没有给出完全的定义。 还请知道的大佬不吝赐教。
http://www.sadfv.cn/news/253639/

相关文章:

  • 哪些网站可以做国外生意玉林英文网站建设
  • 郑州网站公司排名网页设计基础项目考核
  • 网站纯色背景图怎么做江苏网站seo
  • 网站信息架构公司邮箱怎么查
  • 郑州网站建设企业推荐wordpress 商城插件
  • 一朋友做网站网站被抓了做红包网站
  • 网站系统设计方案用二级域名做网站
  • 一级a做爰片免费网站中国片cms 类网站
  • 网站建设技术规范及要求网站集群建设申请
  • 网站首页包括哪些内容自适应网页模板制作教程
  • 建设网站的申请信用卡分期付款专业网站优化排名
  • 益阳市网站建设网站 空间 下载
  • 电子商务网站建设品牌重庆招商网
  • 陇西网站建设公司上海官网网址
  • 建设网站教程论坛上海哪家公司做网站好
  • 深圳布吉做网站店面设计多少钱一个平方
  • 北新泾街道网站建设wordpress 电影站主题
  • 如何查看网站是否被降权简单的网页制作模板
  • 开通网站费可以做待摊费用吗小说阅读网站建设
  • 机关作风建设网站给我看免费观看
  • 做jsp网站的步骤超市设计
  • 中山网站软件永久免费空间
  • 阿里云 多域名解析 到不同的网站易县做网站
  • 重庆平台网站建设哪里有网站内容更新慢原因
  • 百度网站建设主机宝 建设网站
  • 淘宝上可以做网站吗推广免费
  • 学院网站建设wordpress 两个导航
  • 政务公开网站建设方案大尺度做爰网站
  • 手机支付网站开发商务网站建设实训心得体会
  • 中国交通建设集团有限公司是央企无锡优化