当前位置: 首页 > news >正文

网站建设的可行性要求个人网站备注

网站建设的可行性要求,个人网站备注,国外服务器租用网站,网站描述案例概念 Adam#xff08;Adaptive Moment Estimation#xff09;是一种优化算法#xff0c;结合了动量梯度下降法和RMSProp的优点#xff0c;用于在训练神经网络等深度学习模型时自适应地调整学习率。Adam算法在深度学习中广泛应用#xff0c;通常能够加速收敛并提高模型性能…概念 AdamAdaptive Moment Estimation是一种优化算法结合了动量梯度下降法和RMSProp的优点用于在训练神经网络等深度学习模型时自适应地调整学习率。Adam算法在深度学习中广泛应用通常能够加速收敛并提高模型性能。 Adam算法综合了动量momentum和均方梯度的移动平均RMSProp来更新模型参数。与传统的梯度下降法不同Adam维护了一个每个参数的动量变量和均方梯度的移动平均变量并在每个迭代步骤中使用这些变量来调整学习率。 步骤 1初始化参数初始化模型的参数。 2初始化动量变量和均方梯度的移动平均初始化动量变量为零向量初始化均方梯度的移动平均为零向量。 3计算梯度计算当前位置的梯度。 4更新动量变量计算动量变量的移动平均。 momentum beta1 * momentum (1 - beta1) * gradient 其中beta1 是用于计算动量变量移动平均的超参数。 5更新均方梯度的移动平均计算均方梯度的移动平均。 moving_average beta2 * moving_average (1 - beta2) * gradient^2 其中beta2 是用于计算均方梯度的移动平均的超参数 6修正偏差 对动量变量和均方梯度的移动平均进行偏差修正以减轻初始迭代的影响。 corrected_momentum momentum / (1 - beta1^t) corrected_moving_average moving_average / (1 - beta2^t) 7更新参数 parameter parameter - learning_rate * corrected_momentum / (sqrt(corrected_moving_average) epsilon) 其中epsilon 是一个小的常数防止分母为零。 8重复迭代重复执行步骤 3 到 7直到达到预定的迭代次数epochs或收敛条件。 代码实现 import numpy as np import matplotlib.pyplot as plt# 生成随机数据 np.random.seed(0) X 2 * np.random.rand(100, 1) y 4 3 * X np.random.randn(100, 1)# 添加偏置项 X_b np.c_[np.ones((100, 1)), X]# 初始化参数 theta np.random.randn(2, 1)# 学习率 learning_rate 0.1# Adam参数 beta1 0.9 beta2 0.999 epsilon 1e-8 momentum np.zeros_like(theta) moving_average np.zeros_like(theta)# 迭代次数 n_iterations 1000# Adam优化 for iteration in range(n_iterations):gradients 2 / 100 * X_b.T.dot(X_b.dot(theta) - y)momentum beta1 * momentum (1 - beta1) * gradientsmoving_average beta2 * moving_average (1 - beta2) * gradients**2corrected_momentum momentum / (1 - beta1**(iteration1))corrected_moving_average moving_average / (1 - beta2**(iteration1))theta theta - learning_rate * corrected_momentum / (np.sqrt(corrected_moving_average) epsilon)# 绘制数据和拟合直线 plt.scatter(X, y) plt.plot(X, X_b.dot(theta), colorred) plt.xlabel(X) plt.ylabel(y) plt.title(Linear Regression
http://www.sadfv.cn/news/103838/

相关文章:

  • 具有价值的做pc端网站dedecms电影网站源码
  • 西安网站建设阳建南昌网站建设方式
  • 简述营销导向的企业网站建设的步骤机关公文写作网站
  • 外贸网站建设经验做网站的用处
  • 扬中做网站的公司衡水做网站建设公司
  • 什么网站可以做机票行程单自己的app如何接广告
  • 做特卖的网站雅美盛典哪里做网站比较号
  • 南京网站优化公司排名芜湖网络科技有限公司
  • 整形网站 源码网站建设安全技术方面
  • 网站建设违法行为qq登录账号在线登录入口
  • dw网页设计模板网站自己做电影网站可以赚钱吗
  • c 网站开发案例详解光盘网站备案的核验单
  • 新郑整站优化网站集约化建设的通知
  • 佛山建设网站公司哪家好北京电子商务网站建设
  • 企业网站建设网站模板天津智能网站建设价位
  • 网站设计 北京 010网站建设费用上海
  • 下载17网一起做网店优化方法
  • 湖北省建设工程质量协会网站中山seo排名
  • 凡科免费建微信小程序网站上海巴士公司
  • 网站做301跳转注册公司后每年都要交什么费用
  • 企业网站建设哪家便宜东莞seo推广公司
  • asp网站上一篇下一篇代码按照商业模式
  • 西安品牌网站建设服务商做展会怎么引流到自己的网站
  • 廊坊集团网站建设怀化火车站网站
  • 网站seo策划方案实例百度推广电话销售话术
  • 广州网站制作流程平台建设内容
  • 快速搭建网站框架的工具seo是什么的缩写
  • 嘉定做网站的利用淘宝做网站卖货到国外
  • 筑成建设集团网站个人网站icp备案教程
  • 网站制作方案模板极速网站建设定制费用