手机网站设计思路,购物网站前端浮动特效怎么做,信用网站建设意见,教做世界美食的网站推荐阅读时间8min~13min主要内容#xff1a;通俗理解激活函数#xff0c;主要来自我在学习会的slides#xff0c;讲解了激活函数的非线性能力和组合特征的作用下面我分别对激活函数的两个作用进行解释。1加入非线性因素#xff0c;解决非线性问题好吧#xff0c;很容易能够… 推荐阅读时间8min~13min主要内容通俗理解激活函数主要来自我在学习会的slides讲解了激活函数的非线性能力和组合特征的作用下面我分别对激活函数的两个作用进行解释。1加入非线性因素解决非线性问题好吧很容易能够看出我给出的样本点根本不是线性可分的一个感知器无论得到的直线怎么动都不可能完全正确的将三角形与圆形区分出来那么我们很容易想到用多个感知器来进行组合以便获得更大的分类问题好的下面我们上图看是否可行好的我们已经得到了多感知器分类器了那么它的分类能力是否强大到能将非线性数据点正确分类开呢~我们来分析一下如果我们的每一个结点加入了阶跃函数作为激活函数的话就是上图描述的那么随着不断训练优化我们也就能够解决非线性的问题了~所以到这里为止我们就解释了这个观点加入激活函数是用来加入非线性因素的解决线性模型所不能解决的问题。下面我来讲解另一个作用2 激活函数可以用来组合训练数据的特征特征的充分组合我们可以通过上图可以看出立方激活函数已经将输入的特征进行相互组合了。通过泰勒展开我们可以看到我们已经构造出立方激活函数的形式了。于是我们可以总结如下3总结这就把原来需要领域知识的专家对特征进行组合的情况在激活函数运算后其实也能够起到特征组合的作用。只要激活函数中有能够泰勒展开的函数就可能起到特征组合的作用这也许能给我们一些思考。
